TENDANCES
Comparateur
- AUTO
Sam Altman serait-il devenu un autre homme ? Loin en tout cas de son image de « manipulateur » peu soucieux des questions éthiques, le CEO d‘OpenAI (ChatGPT) vient d’annoncer que sa firme collabore avec l’U.S. AI Safety Institute pour fournir un accès anticipé à son prochain grand modèle d’IA générative pour des tests de sécurité. Cette initiative, ainsi qu’un accord similaire avec un organisme équivalent au Royaume-Uni, ont évidemment pour premier objectif de contrer les critiques selon lesquelles OpenAI aurait « dépriorisé » la sécurité de l’IA au profit du développement de technologies d’IA de plus en plus puissantes. Pour rappel, au mois de mai dernier, OpenAI a dissous une unité axée sur la prévention de systèmes d’IA « superintelligents » devenant incontrôlables, ce qui a conduit à la démission de membres clés de l’équipe et a suscité de vives inquiétudes concernant l’engagement de l’entreprise envers les problématiques éthiques et de sécurité.
En réponse à ces critiques, OpenAI a promis d’éliminer les clauses restrictives de non-dénigrement, de créer une commission de sécurité et d’allouer 20 % de ses ressources de calcul à la recherche sur la sécurité. Malgré ces engagements forts, certains observateurs restent sceptiques, en particulier après qu’OpenAI ait créé la commission de sécurité avec des membres internes et réaffecté un cadre supérieur en sécurité de l’IA à une autre division du groupe. Plus récemment encore, cinq sénateurs américains ont envoyé un courrier de doléances à OpenAI sur ces questions de sécurité, à laquelle le directeur de la stratégie d’OpenAI, Jason Kwon, a répondu en réaffirmant le dévouement de l’entreprise à des protocoles de sécurité rigoureux.
L’accord d’OpenAI avec l’U.S. AI Safety Institute coïncide avec le soutien de la startup au Future of Innovation Act, un projet de loi du Sénat qui autoriserait l’Institut de sécurité à définir des normes pour les modèles d’IA. Hélas, cette initiative a de nouveau conduit à des spéculations portant cette fois sur l’influence supposée d’OpenAI sur l’élaboration des politiques d’IA au niveau fédéral, certains rappelant qu’Altman fait partie du conseil de sécurité et de protection de l’intelligence artificielle du département américain de la Sécurité intérieure. Face tu perds, pile je gagne….
Le fondateur et patron de Telegram, Pavel Durov, a promis de faire de la modération de sa messagerie « un domaine...
C’est peu dire que le Starliner de Boeing a rencontré des soucis, au point que la NASA a récemment décidé de ne pas...
Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici...
Roblox va introduire de nouvelles procédures pour augmenter le partage des revenus avec les développeurs alors que l’objectif est...
Ganymède, la plus grande lune de Jupiter, est connue pour son inclinaison axiale inhabituelle et ses profonds sillons de surface, des...
8 Sep. 2024 • 15:24
6 Sep. 2024 • 22:40
6 Sep. 2024 • 20:25
6 Sep. 2024 • 19:50