KultureGeek Actualité Windows, macOS et Linux OpenAI a une nouvelle équipe de « veille sécuritaire » de l’IA… dirigée par Sam Altman

OpenAI a une nouvelle équipe de « veille sécuritaire » de l’IA… dirigée par Sam Altman

28 Mai. 2024 • 16:25
0

Voilà qui n’arrêtera pas les mauvaises langues. Après avoir dissous son équipe de sécurité et poussé au départ plusieurs cadres importants d’OpenAI particulièrement sceptiques sur les objectifs réels de sa société, Sam Altman vient de prendre les commandes d’une nouvelle équipe de « veille sécuritaire » pour l’IA,  équipe dirigée donc par l’actuel CEO et les membres du conseil d’administration Adam D’Angelo et Nicole Seligman. Ce Comité émettra des recommandations sur les projets d’OpenAI, répondant ainsi à sa façon aux critiques formulées par nombre d’anciens employés de la startup.

Sam Altman

La première tâche de la nouvelle équipe sera d’évaluer et d’améliorer les processus et les mesures de sécurité actuels d’OpenAI, puis de présenter ses conclusions au conseil d’administration qui décidera ensuite de la mise en œuvre des recommandations formulées. La création de cette « team sécurité » fait suite au départ du co-fondateur et scientifique en chef Ilya Sutskever, qui avait soutenu le départ d’Altman avant de co-diriger l’équipe Superalignment en charge du contrôle et de l’analyse des systèmes d’IA les plus sophistiqués. L’équipe Superalignment a été dissoute après les démissions de Sutskever et du co-directeur Jan Leike, tous deux exprimant de très fortes préoccupations concernant la façon dont OpenAI aborde les problématiques sociétales des IA « super-intelligentes ».

Outre les noms cités plus haut, la nouvelle équipe de sécurité comprend le responsable de la préparation Aleksander Madry, la responsable en sécurité Lilian Weng, le responsable de la science de l’alignement John Schulman, le responsable en sécurité Matt Knight et le scientifique en chef Jakub Pachocki. La participation d’Altman et des membres du conseil d’administration à l’équipe de sécurité soulève évidemment de nombreux doutes quant à l’engagement réel d’OpenAI à répondre aux préoccupations de sécurité qui ont motivé les récents départs de chercheurs clés.

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

Google Logo

Publicités en ligne : l’Europe prépare une amende modeste pour Google

29 Août. 2025 • 20:59
0 Internet

Google s’apprête à recevoir une amende antitrust relativement légère de l’Union européenne dans les...

Xavier Niel et Logo Free

Free promet des surprises pour les prochains trimestres

29 Août. 2025 • 20:50
2 Mobiles / Tablettes

Free l’assure : il y aura des surprises qui vont voir le jour. Mais il va falloir patienter un petit moment, puisque le fournisseur...

Meta AI Logo

Chatbots IA : Meta renforce la sécurité des adolescents après une controverse

29 Août. 2025 • 20:00
0 Internet

Meta ajuste la manière dont ses chatbots IA interagissent avec les adolescents pour mieux protéger leur sécurité. Cette...

bugonia

Bugonia : Yorgos Lanthimos (Pauvres Créatures) dévoile un film d’alien…comme aucun autre (trailer)

29 Août. 2025 • 19:28
0 Geekeries

Yorgos Lanthimos, le fantasque réalisateur à l’origine des fascinants The Lobster, Pauvres Créatures et du tout récent...

PlayStation Portal Prise en Main

Sony préparerait une PlayStation 6 portable, façon Nintendo Switch

29 Août. 2025 • 19:12
1 Jeux vidéo

Sony ne prépare pas seulement qu’une PlayStation 6 « standard », le fabricant aurait également une PS6 portable dans ses...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site