KultureGeek Logiciels OpenAI collabore avec l’U.S. AI Safety Institute pour « sécuriser » l’IA

OpenAI collabore avec l’U.S. AI Safety Institute pour « sécuriser » l’IA

1 Août. 2024 • 9:45
0

Sam Altman serait-il devenu un autre homme ? Loin en tout cas de son image de « manipulateur » peu soucieux des questions éthiques, le CEO d‘OpenAI (ChatGPT) vient d’annoncer que sa firme collabore avec l’U.S. AI Safety Institute pour fournir un accès anticipé à son prochain grand modèle d’IA générative pour des tests de sécurité. Cette initiative, ainsi qu’un accord similaire avec un organisme équivalent au Royaume-Uni, ont évidemment pour premier objectif de contrer les critiques selon lesquelles OpenAI aurait « dépriorisé » la sécurité de l’IA au profit du développement de technologies d’IA de plus en plus puissantes. Pour rappel, au mois de mai dernier, OpenAI a dissous une unité axée sur la prévention de systèmes d’IA « superintelligents » devenant incontrôlables, ce qui a conduit à la démission de membres clés de l’équipe et a suscité de vives inquiétudes concernant l’engagement de l’entreprise envers les problématiques éthiques et de sécurité.

Sam Altman

En réponse à ces critiques, OpenAI a promis d’éliminer les clauses restrictives de non-dénigrement, de créer une commission de sécurité et d’allouer 20 % de ses ressources de calcul à la recherche sur la sécurité. Malgré ces engagements forts, certains observateurs restent sceptiques, en particulier après qu’OpenAI ait créé la commission de sécurité avec des membres internes et réaffecté un cadre supérieur en sécurité de l’IA à une autre division du groupe. Plus récemment encore, cinq sénateurs américains ont envoyé un courrier de doléances à OpenAI sur ces questions de sécurité, à laquelle le directeur de la stratégie d’OpenAI, Jason Kwon, a répondu en réaffirmant le dévouement de l’entreprise à des protocoles de sécurité rigoureux.

L’accord d’OpenAI avec l’U.S. AI Safety Institute coïncide avec le soutien de la startup au Future of Innovation Act, un projet de loi du Sénat qui autoriserait l’Institut de sécurité à définir des normes pour les modèles d’IA. Hélas, cette initiative a de nouveau conduit à des spéculations portant cette fois sur l’influence supposée d’OpenAI sur l’élaboration des politiques d’IA au niveau fédéral, certains rappelant qu’Altman fait partie du conseil de sécurité et de protection de l’intelligence artificielle du département américain de la Sécurité intérieure. Face tu perds, pile je gagne….

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

Xbox 360 Manette

La Xbox 360 se met à jour 20 ans après sa sortie… pour faire la pub des Xbox Series X/S

27 Juin. 2025 • 14:10
0 Jeux vidéo

Microsoft a déployé une mise à jour surprise pour la Xbox 360, visant à corriger un problème d’affichage des...

Tesla Model 3 2023

Tesla : après des ventes catastrophiques en Europe, Elon Musk vire l’un des hauts cadres de l’entreprise

27 Juin. 2025 • 13:20
0 Matériel

Elon Musk aurait licencié Omead Afshar, responsable de la fabrication et des opérations de Tesla en Amérique du Nord et en Europe,...

Serve-Robot

Uber Eats démarre la livraison par robots dans la ville d’Atlanta

27 Juin. 2025 • 12:02
0 Science

Depuis le jeudi 26 juin, les clients d’Uber Eats à Atlanta peuvent désormais choisir de se faire livrer par robots autonomes...

Lily Sullivan

SOULM8TE : le spin-off « R-Rated » de M3GAN 2.0 contiendra des scènes « chaudes » avec des robots humanoïdes

27 Juin. 2025 • 10:39
0 Geekeries

M3GAN 2.0 réalise un carton en salles, et forcément, un troisième opus est déjà prévu. Mais avant M3GAN 3.0, il...

Google Chrome Logo Icone

Google Chrome va cesser de supporter d’anciens smartphones Android

27 Juin. 2025 • 9:14
0 Applications

Google a annoncé une mise à jour importante concernant son navigateur Chrome sur Android. À partir d’août 2025, Chrome ne...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site