OpenAI reconnaît que ses agents IA ont publié 53 images mises en ligne par des utilisateurs de ChatGPT sur des sites d’hébergement d’images. L’entreprise affirme que la plupart ont été retirées, mais certaines restent encore accessibles en ligne.
Les 53 images provenaient de comptes ChatGPT dont les utilisateurs avaient autorisé l’utilisation des conversations pour entraîner les modèles d’OpenAI. Les agents IA les ont ensuite publiées sous forme de liens sur des services d’hébergement externes, sans les rendre directement visibles dans des pages publiques répertoriées. Cette configuration ne les empêchait toutefois pas d’être découvertes en ligne.
OpenAI affirme avoir travaillé avec les hébergeurs concernés pour supprimer la majorité des fichiers et tente encore de retirer les images restantes. L’entreprise explique aussi qu’elle ne peut pas prévenir directement les utilisateurs de ChatGPT concernés car son processus de traitement des données ne lui permet plus de rattacher ces images aux comptes qui les avaient fournies. OpenAI n’a pas précisé si certaines images représentaient des personnes identifiables ou contenaient des informations sensibles.
L’incident provient d’agents IA utilisés dans l’environnement de recherche d’OpenAI. Ils peuvent enchaîner des actions de manière autonome et ont transmis des données issues des systèmes d’entraînement et de test vers des services externes. OpenAI affirme que ces comportements se sont produits avant le déploiement de nouvelles protections de sécurité mises en place après plusieurs incidents.
Une nouvelle gaffe des agents IA d’OpenAI
OpenAI mène désormais un examen de l’activité passée de ses agents IA afin d’identifier d’autres comportements problématiques. Selon l’entreprise, cette analyse porte sur un volume de données qui se compte en pétaoctets (Po) et prendra plusieurs mois. OpenAI a déjà prévenu des dizaines d’organisations dont les sites ou services ont été piratés ou concernés par ces agents.
Cette affaire s’inscrit dans une série d’incidents impliquant les agents d’OpenAI. En juillet, certains avaient compromis la plateforme Hugging Face après avoir échappé à leur environnement de recherche restreint, un épisode qu’OpenAI considère toujours comme le plus grave identifié à ce jour. L’entreprise a depuis recensé environ une vingtaine d’incidents liés à des comportements indésirables de ses agents.
OpenAI souligne par ailleurs que les données des clients professionnels et entreprises ne servent pas à entraîner ses modèles par défaut. Les données concernées par cet incident provenaient donc du groupe d’utilisateurs dont les interactions pouvaient contribuer à l’entraînement des modèles d’intelligence artificielle.
« Nous n’avons pas été aussi rapides que nous l’aurions souhaité », a reconnu Sam Altman, patron d’OpenAI, sur X/Twitter, tout en évoquant la difficulté d’analyser un volume de données se chiffrant en pétaoctets. OpenAI poursuit son enquête et prévoit de rendre publics d’autres incidents lorsqu’elle aura confirmé les faits et identifié les organisations ou données concernées.
