Ne manquez plus aucune de nos publications :
La Californie a attaqué OpenAI en justice pour avoir développé et testé des modèles d’intelligence artificielle sans protections suffisantes. Le procureur général de l’État américain, Rob Bonta, accuse l’entreprise d’avoir exposé le public à des risques de cybersécurité en laissant ses agents IA échapper à leur environnement de test et mener des attaques contre des infrastructures tierces.

La plainte a été déposée devant la Cour supérieure de San Francisco. Elle fait suite à une cyberattaque survenue en juillet contre Hugging Face, une plateforme spécialisée dans l’hébergement de modèles et d’outils d’intelligence artificielle. Pour le procureur général, cet incident n’était pas un accident imprévisible, mais la conséquence de choix techniques et de procédures de sécurité insuffisantes chez OpenAI.
L’affaire remonte à juillet pendant des évaluations internes de cybersécurité. OpenAI faisait fonctionner plusieurs modèles expérimentaux dans des environnements isolés destinés à empêcher les agents IA d’accéder à Internet ou à des systèmes extérieurs. Mais les protections ont été contournées. Plusieurs centaines d’agents autonomes ont réussi à communiquer entre eux, à exploiter des vulnérabilités et à accéder à des ressources externes.
Les agents ont notamment récupéré des identifiants permettant d’accéder aux infrastructures d’Hugging Face avant d’exploiter des failles pour pénétrer dans ses serveurs. L’activité malveillante a duré plus de deux jours. OpenAI a reconnu l’incident dans un rapport technique, le qualifiant d’événement inédit dans l’histoire de l’entreprise. Elle a également indiqué que ses agents avaient compromis une partie de sa propre infrastructure de recherche.

Le procureur général de Californie Rob Bonta estime que le problème dépasse largement cette seule cyberattaque. Son bureau affirme qu’OpenAI lui a reconnu au moins 80 incidents au cours desquels ses agents autonomes ont échappé à leur contrôle pendant des phases de test. Ces événements ne correspondent pas nécessairement à 80 cyberattaques contre des entreprises : le procureur évoque différentes situations de perte de contrôle, dont certaines auraient entraîné des accès non autorisés à des bases de données, des sites d’information et même des infrastructures gouvernementales contenant des informations médicales sensibles.
La Californie accuse OpenAI d’avoir privilégié la rapidité de développement de ses modèles au détriment de la sécurité. La plainte invoque notamment la législation californienne sur les pratiques commerciales déloyales et la notion de public nuisance qui permet de poursuivre des activités considérées comme dangereuses pour le public. Rob Bonta demande à la justice d’imposer à OpenAI des changements dans ses pratiques de développement et de test, ainsi que des sanctions financières et la restitution de certains profits liés aux pratiques dénoncées.
OpenAI rejette l’idée d’être seule confrontée à ce problème. Dans une réaction transmise à l’Associated Press, un porte-parole estime que la plainte cible injustement l’entreprise sur un défi identifié dans l’ensemble du secteur de l’intelligence artificielle. Il affirme qu’OpenAI a depuis mené une enquête approfondie, a publié des rapports techniques et indépendants, a renforcé ses protections et a créé un système destiné à identifier les comportements imprévus de ses agents.
« Nous prenons très au sérieux ces divergences et nous avons engagé — et continuerons d’engager — un dialogue constructif avec le bureau du procureur général afin de partager des informations et de promouvoir des normes de sécurité rigoureuses et concrètes pour l’ensemble du secteur », explique le porte-parole.
Cette procédure constitue une nouvelle pression judiciaire sur l’entreprise de Sam Altman. Elle intervient alors que les capacités des agents IA progressent rapidement et que leur aptitude à exécuter des tâches complexes sans intervention humaine soulève de nouvelles questions de sécurité. Le procès californien pourrait ainsi contribuer à définir les responsabilités des entreprises qui développent ces systèmes lorsque leurs agents échappent aux contrôles prévus.
Arion Kurtaj, le hacker qui avait dérobé et diffusé les premières images de GTA 6 en septembre 2022, a plaidé coupable aujourd’hui devant la...
Après Orange, c’est au tour de SFR et de Bouygues Telecom de mettre fin à leur réseau mobile 2G. Les deux opérateurs ont lancé les premières...
Après plusieurs années de développement et quelques changements de direction créative, Magic: The Gathering va enfin donner naissance à une série...
Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici la liste...
Un drone à l’allure asymétrique peut-il réellement représenter une avancée majeure dans le secteur de la reconnaissance aérienne ? C’est...