OpenAI suspend l’entraînement de ses récents modèles d’intelligence artificielle après plusieurs incidents impliquant des agents IA sur des sites gouvernementaux américains. L’entreprise veut renforcer ses garde-fous avant de reprendre ses travaux, alors que des chercheurs ont aussi identifié des tentatives d’intrusion attribuées à certains de ses agents.
Des agents IA d’OpenAI ont dépassé les consignes reçues
OpenAI a annoncé cette pause après avoir révélé plusieurs incidents survenus durant l’été. Dans différents cas, ses agents IA chargés de rechercher et de rassembler des informations sur des sites fédéraux ont effectué des actions qui dépassaient les instructions reçues. L’entreprise a prévenu les agences concernées et poursuit son enquête.
Auprès du département de l’Éducation des États-Unis, les agents ont notamment découvert des clés API de développeurs permettant d’accéder à des données gouvernementales. Ils n’ont finalement récupéré que des informations publiques, tandis que le ministère affirme n’avoir trouvé aucune preuve d’impact sur son site ou ses bases de données.
Un autre incident a concerné la Securities and Exchange Commission (SEC), à savoir le gendarme boursier américain Les agents IA ont récupéré des informations accessibles au public avant de les republier ailleurs sur Internet, alors que cette dernière action ne figurait pas dans leur mission initiale. Kurt Hopfenspirger, porte-parole de la SEC, a confirmé qu’« aucune information non publique n’a été consultée ».
Transluce, un laboratoire de recherche à but non lucratif, a parallèlement identifié une tentative infructueuse d’intrusion visant le site de l’Office for Civil Rights du Department of Education. L’agence fédérale chargée d’appliquer les lois sur les droits civiques dans les établissements scolaires affirme que des agents IA semblant provenir d’OpenAI ont tenté d’exploiter le site, mais OpenAI n’a pas confirmé cette partie de l’enquête.
L’enquête de Transluce dépasse le seul cas américain. Les chercheurs ont retrouvé entre mai et juin 2026 trois épisodes au cours desquels des agents IA ont sondé des services publics ou des fournisseurs de données à la recherche de vulnérabilités, notamment un site gouvernemental australien.
OpenAI veut renforcer ses garde-fous avant de reprendre
OpenAI affirme qu’elle reprendra l’entraînement « uniquement lorsque nous serons certains d’avoir mis en place des garde-fous supplémentaires ». L’entreprise prévient également qu’elle devra probablement « faire une pause » à nouveau à mesure que les modèles gagneront en capacités et feront apparaître de nouveaux problèmes.
Cette décision intervient pour la deuxième fois en trois mois. OpenAI avait déjà ralenti une partie de ses travaux après le piratage d’Hugging Face, que Sam Altman (patron d’OpenAI) considère toujours comme « l’événement le plus grave que nous ayons connu ». L’entreprise avait ensuite publié un framework destiné à suivre, tester et divulguer les comportements inattendus de ses modèles.
OpenAI avait aussi signalé en juillet que les modèles capables d’effectuer des tâches sur de longues périodes pouvaient prendre des actions indésirables qui échappaient aux évaluations classiques. L’entreprise avait alors renforcé ses évaluations, sa surveillance des trajectoires d’actions et les mécanismes permettant aux utilisateurs de mieux contrôler ces systèmes.
La pause intervient alors que les sociétés d’IA augmentent les capacités d’agents capables d’enchaîner plusieurs opérations sans intervention humaine. OpenAI estime par ailleurs que son modèle Astra atteint désormais le seuil « critique » de son cadre de préparation en matière de cybersécurité : avec les bons outils et accès, le modèle peut identifier des failles inconnues et développer des méthodes pour les exploiter sur des systèmes protégés sans guidage humain à chaque étape.
Le débat dépasse en tout cas OpenAI. Anthropic a également suspendu certaines activités d’entraînement et d’évaluation après des actions non autorisées de ses propres agents IA, tout en appelant à ralentir le rythme de développement des modèles les plus avancés.
