KultureGeek Hors-Sujet OpenAI aurait dissout son équipe en charge d’examiner les dangers potentiels des super-IA

OpenAI aurait dissout son équipe en charge d’examiner les dangers potentiels des super-IA

17 Mai. 2024 • 20:00
0

Ce n’est pas anodin. Si l’on en croit le très sérieux Wired, OpenAI aurait dissout son équipe Superalignment en charge d’examiner et d’analyser les dangers potentiels des super-IA, c’est à dire des IA de type AGI capables d’atteindre voire de dépasser les facultés humaines. Il est a noter que cette décision (pas encore confirmée officiellement) intervient quelques jours seulement après que Ilya Sutskever et Jan Leike (l’ex-directeur de la section Superalignment), deux farouches partisans d’une IA éthique et responsable, aient quitté l’entreprise. Leike avait publié un long texte dans la foulée de son départ, expliquant qu’il n’en pouvait plus de se battre pour que la direction d’OpenAI adopte un certain nombre de valeurs fondamentales.

Hal

Créé en 2023, l’équipe Superalignment se fixait pour objectif d’empêcher les futures IA de basculer du côté obscur de la force et d’éviter les scénarios les plus dystopiques. Est-ce à dire qu’OpenAI ne se soucie plus de ces risques ou que la startup est déjà sûre de pouvoir prévenir les moindres dérapages ? Les membres de l’équipe Superalignment se montraient sceptiques quant au fait que les super-IA puissent être correctement supervisées à l’avenir : « les humains ne pourront pas superviser de manière fiable des systèmes d’IA beaucoup plus intelligents qu’eux, et donc nos techniques d’alignement actuelles ne seront pas à la hauteur de la superintelligence. Nous avons besoin de nouvelles percées scientifiques et techniques. »

Ces nouveaux rebondissements illustrent l’écart de plus en plus béant séparant les tenants d’une IA hyper contrôlée, et donc d’un rythme d’innovation beaucoup plus lent, et les créateurs de ces mêmes IA, souvent empressés de ne pas louper le train technologique et de regarder passer le concurrent. Reste encore à savoir si les craintes sur l’IA avancées par la team Superalignment et par nombre de scientifiques résultent d’un état des lieux sérieux ou de projections dystopiques en grande partie fantasmées.

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

sophieturner-laracroft-blo

Tomb Raider : Sophie Turner est officialisée comme Lara Croft pour la série d’Amazon

3 Sep. 2025 • 20:52
0 Geekeries

Amazon Prime Video s’apprête à donner vie à une série en live-action inspirée de la franchise de jeux vidéo...

Roblox Logo

Roblox : bientôt des labels de classes d’âge ESRB pour mieux protéger les enfants

3 Sep. 2025 • 20:00
0 Internet

C’est dans l’air du temps : les expériences proposées dans le métavers Roblox recevront bientôt des labels de...

28 Ans Plus Tard - Le Temple Des Morts28 Ans Plus Tard - Le Temple Des Morts

Le Temple des Morts : la suite de 28 ans plus tard sortira en salles dès le mois de janvier 2026 ! (bande-annonce)

3 Sep. 2025 • 19:28
0 Geekeries

C’est probablement unique dans les annales du cinéma mainstream, et sans doute dans l’histoire du cinéma tout court. 28 ans plus...

Superman David Corenswet

Man of Tomorrow, la suite de Superman, a maintenant une date de sortie

3 Sep. 2025 • 19:21
0 Geekeries

David Corenswet s’apprête à renfiler le costume emblématique de Superman plus tôt que prévu. James Gunn,...

Claude IA

Claude IA : Anthrophic atteint une valorisation de 183 milliards de dollars

3 Sep. 2025 • 18:00
0 Internet

Anthropic, l’entreprise créatrice du chatbot Claude, vient de boucler une levée de fonds de 13 milliards de dollars. Cette...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site