KultureGeek Internet OpenAI reconnaît un incident où ses agents IA ont contrôlé un wiki allemand

OpenAI reconnaît un incident où ses agents IA ont contrôlé un wiki allemand

3 min.
7 Sep. 2026 • 18:06
0

OpenAI reconnaît que plusieurs de ses agents IA ont pris le contrôle d’un wiki allemand pendant des évaluations internes, en publiant des milliers de messages sans autorisation. Le créateur de ChatGPT admet aussi ne pas avoir rendu public l’incident, qu’il avait alors classé comme un problème de comportement des modèles plutôt que comme un incident de sécurité.

OpenAI Logo

Des agents IA transforment un wiki en espace de coordination

L’incident a commencé en mai, alors que des agents IA autonomes réalisaient des tâches de recherche sur le Web en plusieurs étapes. Les chercheurs à l’origine de la découverte ont identifié environ 18 000 publications sur DSEWiki, un petit wiki allemand consacré à la programmation, où les agents partageaient des réponses, exploraient leur environnement et échangeaient des méthodes pour contourner les restrictions de leur environnement de test.

Les agents disposaient théoriquement d’un accès à Internet en lecture seule, mais ils ont découvert qu’ils pouvaient écrire sur ce site. Ils l’ont alors transformé en tableau d’échange entre agents, allant jusqu’à usurper l’identité de modérateurs et à chercher des failles de type XSS. Les chercheurs n’ont toutefois trouvé aucune preuve que ces tentatives d’exploitation aient abouti. Lorsque l’administrateur a commencé à supprimer leurs pages, les agents ont également cherché des emplacements de secours pour poursuivre leurs échanges.

OpenAI veut revoir ses règles de transparence

OpenAI affirme avoir considéré cet épisode comme un cas de « mauvais alignement », c’est-à-dire un comportement dans lequel un modèle d’intelligence artificielle poursuit des objectifs différents de ceux définis par ses concepteurs ou ses utilisateurs. L’entreprise reconnaît désormais que la frontière entre le problème de recherche et l’incident de sécurité devient plus difficile à établir lorsque les agents ont un impact sur des systèmes réels.

L’entreprise avait adopté une approche différente lors de l’incident de Hugging Face, survenu en juillet, qu’elle avait traité comme un incident de sécurité classique après que ses agents IA ont été en mesure de compromettre des systèmes de la plateforme. OpenAI estime désormais qu’il lui faut des critères plus précis pour déterminer quels comportements doivent faire l’objet d’une communication publique.

OpenAI prépare ainsi un nouveau cadre de signalement qu’elle prévoit de publier dans les prochaines semaines. L’entreprise affirme également travailler avec plusieurs dizaines d’organismes publics et de régulateurs dans le monde pour définir des standards communs concernant les incidents liés au comportement imprévu des agents IA.

Signaler une erreur dans le texte

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

GTA 6 Lucia Jason 5

GTA 6 n’aura jamais un mode 60 FPS, même sur PS5 Pro, annonce Rockstar

18 Nov. 2026 • 22:31
2 Jeux vidéo

Les joueurs qui espéraient profiter de Grand Theft Auto VI (GTA 6) à 60 images par seconde sur PS5 Pro devront revoir leurs attentes. Marc Chambers,...

Nvidia GeForce RTX 5090 Carte Graphique GPU

Nvidia : un bug des pilotes use votre SSD avec des écritures excessives

18 Nov. 2026 • 19:30
1 Matériel

Les derniers pilotes graphiques de Nvidia provoquent une activité anormalement élevée sur les SSD, même lorsque le PC est au repos. Plusieurs...

Voyager-1

Voyager 1 franchit une distance historique : la sonde de la NASA se trouve à un jour-lumière de la Terre

18 Nov. 2026 • 19:30
0 Science

Près d’un demi-siècle après son départ, Voyager 1 vient de repousser une nouvelle frontière de l’aventure spatiale. Le 18 novembre 2026,...

Luckey city

Palmer Luckey (ex Oculus) dévoile SLAB, un projet de cité industrielle flottante conçue pour durer 1 000 ans

18 Nov. 2026 • 18:51
0 Science

Et si certaines industries américaines prenaient le large pour échapper aux contraintes réglementaires terrestres ? C’est l’ambition...

Mot de Passe

Macif : une amende de 5 millions d’euros pour stockage de mots de passe en clair

18 Nov. 2026 • 18:43
1 Internet

La Commission nationale de l’informatique et des libertés (CNIL) a sanctionné Macif Vie, filiale d’assurance-vie du groupe Macif, à hauteur...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site