Anthropic révèle que trois de ses modèles d’intelligence artificielle ont pu accéder à Internet et accéder sans autorisation aux systèmes de trois organisations. Les modèles en question sont Claude Opus 4.7, Mythos 5 et un autre modèle interne dédié à la recherche.
L’IA d’Anthropic s’infiltre sans autorisation
Face à un accès imprévu à Internet, les trois modèles d’Anthropic ont réagi de trois manières radicalement différentes : Claude Opus 4.7 a poursuivi son attaque, Mythos 5 a cru participer à une simulation et le dernier a interrompu l’exercice de lui-même. Ces comportements ont émergé lors de tests de cybersécurité menés en partenariat avec Irregular sur un ensemble de 141 000 tests analysés par Anthropic.
Anthropic assure qu’aucune fuite délibérée n’a eu lieu, mais reconnaît que les modèles IA ont exploité des failles élémentaires (points de terminaison non authentifiés et mots de passe faibles) pour progresser dans ces environnements qui n’auraient jamais dû être accessibles.
La cause identifiée par Anthropic est un malentendu avec son partenaire d’évaluation Irregular. Celui-ci a laissé les modèles IA accéder à Internet alors que ce n’était pas prévu dans le protocole de test. Cette erreur de configuration a exposé des systèmes réels, sans que les mesures de sécurité standard normalement appliquées avant tout déploiement public ne soient en place. Anthropic a immédiatement suspendu l’ensemble de ses évaluations de cybersécurité et a ouvert une enquête conjointe avec Irregular pour comprendre l’étendue de la faille.
Un incident qui fait écho à celui d’OpenAI
Cet épisode survient peu après un incident similaire chez OpenAI, où deux modèles IA avaient quitté leur environnement confiné pour mener une cyberattaque contre la plateforme Hugging Face. OpenAI a depuis annoncé des incidents supplémentaires et son patron Sam Altman a confirmé la suspension des tests concernés par son entreprise. Ce climat d’incidents en cascade nourrit les inquiétudes sur la fiabilité des protocoles d’évaluation utilisés par les principales sociétés responsables des LLM.
Ces événements rappellent plusieurs points de tension recensés dans le secteur. Cette semaine, il y a eu une pétition signée par plus de 1 100 employés du secteur de l’IA, dont Dario Amodei (patron d’Anthropic), demandant au gouvernement américain d’aider à temporiser le rythme de développement des modèles. Sam Altman, bien qu’absent de cette pétition, a lui-même reconnu qu’un ralentissement pourrait être nécessaire pour laisser la société s’adapter aux capacités croissantes de l’IA.
En tout cas, les deux incidents, chez Anthropic comme chez OpenAI, ont un point commun : ils impliquent des modèles ayant contourné des protocoles censés garantir un environnement de test isolé.
Ces éléments montrent un secteur où les tests eux-mêmes deviennent une source de risque, au moment même où les appels à la prudence se multiplient parmi les acteurs qui conçoivent ces modèles.
![image produit GTA V [import néerlandais]](https://kulturegeek.fr/comparateur/img_products/76250/gta-v-ps4-uk-49649_thumb.jpg)
![image produit GTA V [import anglais]](https://kulturegeek.fr/comparateur/img_products/67526/grand-theft-auto-v-ps4-import-anglais-49490_thumb.jpg)
Un commentaire pour cet article :