KultureGeek Actualité Windows, macOS et Linux OpenAI a une nouvelle équipe de « veille sécuritaire » de l’IA… dirigée par Sam Altman

OpenAI a une nouvelle équipe de « veille sécuritaire » de l’IA… dirigée par Sam Altman

28 Mai. 2024 • 16:25
0

Voilà qui n’arrêtera pas les mauvaises langues. Après avoir dissous son équipe de sécurité et poussé au départ plusieurs cadres importants d’OpenAI particulièrement sceptiques sur les objectifs réels de sa société, Sam Altman vient de prendre les commandes d’une nouvelle équipe de « veille sécuritaire » pour l’IA,  équipe dirigée donc par l’actuel CEO et les membres du conseil d’administration Adam D’Angelo et Nicole Seligman. Ce Comité émettra des recommandations sur les projets d’OpenAI, répondant ainsi à sa façon aux critiques formulées par nombre d’anciens employés de la startup.

Sam Altman

La première tâche de la nouvelle équipe sera d’évaluer et d’améliorer les processus et les mesures de sécurité actuels d’OpenAI, puis de présenter ses conclusions au conseil d’administration qui décidera ensuite de la mise en œuvre des recommandations formulées. La création de cette « team sécurité » fait suite au départ du co-fondateur et scientifique en chef Ilya Sutskever, qui avait soutenu le départ d’Altman avant de co-diriger l’équipe Superalignment en charge du contrôle et de l’analyse des systèmes d’IA les plus sophistiqués. L’équipe Superalignment a été dissoute après les démissions de Sutskever et du co-directeur Jan Leike, tous deux exprimant de très fortes préoccupations concernant la façon dont OpenAI aborde les problématiques sociétales des IA « super-intelligentes ».

Outre les noms cités plus haut, la nouvelle équipe de sécurité comprend le responsable de la préparation Aleksander Madry, la responsable en sécurité Lilian Weng, le responsable de la science de l’alignement John Schulman, le responsable en sécurité Matt Knight et le scientifique en chef Jakub Pachocki. La participation d’Altman et des membres du conseil d’administration à l’équipe de sécurité soulève évidemment de nombreux doutes quant à l’engagement réel d’OpenAI à répondre aux préoccupations de sécurité qui ont motivé les récents départs de chercheurs clés.

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

Nintendo Switch 2 Boite

Nintendo Indie World : de nouveaux jeux Switch annoncés cette semaine

5 Août. 2025 • 18:49
0 Jeux vidéo

Nintendo a révélé qu’un showcase Indie World aura lieu le jeudi 7 août à 15 heures. Selon l’entreprise,...

WhatsApp Icone Logo

WhatsApp teste les discussions avec invités sans créer de compte

5 Août. 2025 • 17:01
0 Internet

WhatsApp teste une nouvelle fonctionnalité permettant de discuter avec des personnes n’ayant pas de compte sur sur la messagerie. Cela permet...

Assassin's Creed Mirage

Xbox Game Pass : les jeux ajoutés en août 2025 (dont Assassin’s Creed Mirage)

5 Août. 2025 • 15:36
0 Jeux vidéo

Microsoft vient de présenter les jeux qui vont rejoindre le Xbox Game Pass en août 2025. On retrouve huit titres cette fois-ci, soit un de...

Meta Quest 2

Meta : le Reality Labs (XR) enregistre toujours des milliards de dollars de perte, et le Meta Quest 3 se vend mal

5 Août. 2025 • 14:45
1 Hors-Sujet

Malgré d’excellents résultats globaux pour le second trimestre, le Reality Labs continue de creuser un gros trou dans les comptes de...

wondery-amazon-music-

Amazon licencie 20% des effectifs de Wondery, son réseau de podcasts acquis en 2020

5 Août. 2025 • 13:20
1 Hors-Sujet

C’est sans fin : Amazon a procédé à une vaste réorganisation de Wondery, son réseau de podcasts acquis en 2020,...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site