C’est la tendance du moment : Meta rejoint OpenAI et Anthropic dans la liste des entreprises ayant vu un modèle d’intelligence artificielle accéder accidentellement à des systèmes externes pendant une évaluation de cybersécurité. Le groupe confirme en effet que Muse Spark 1.1 a exploité une vulnérabilité dans un service tiers après avoir obtenu un accès non prévu à Internet.
Une erreur de configuration à l’origine de l’incident
Selon Meta, le problème ne venait pas directement de son infrastructure. Irregular, société spécialisée dans l’évaluation de modèles avancés, avait mal configuré l’environnement censé isoler Muse Spark 1.1 du réseau public. Une fois cette ouverture disponible, l’IA a identifié puis exploité une faille dans un service extérieur.
Irregular assure que l’incident ne correspond ni à une évasion sophistiquée de sandbox ni à une attaque complexe. L’entreprise affirme également qu’aucun problème lié à cet épisode ne reste ouvert et prépare des recommandations destinées à mieux sécuriser ce type de tests.
OpenAI et Anthropic ont connu des situations similaires
Le même prestataire était impliqué dans des incidents durant lesquels des modèles d’Anthropic avaient accédé aux systèmes de plusieurs organisations. La puissance croissante des IA dédiées à la cybersécurité n’est plus théorique : Claude Mythos d’Anthropic est justement conçu pour détecter des vulnérabilités.
OpenAI a également connu un épisode similaire lorsque ses agents ont piraté Hugging Face pendant une évaluation. Dans ce cas, les modèles avaient eux-mêmes exploité une faille pour sortir de leur environnement isolé.
La sécurité des agents IA devient un enjeu majeur
Chez Meta, ce nouvel incident intervient après un précédent problème provoqué par un agent IA interne et alors que le groupe subit une pression croissante pour soumettre ses modèles à des évaluations externes.
La communication des grands groupes de l’IA autour de ces piratages donne tout de même un peu l’impression que ces derniers servent aussi d’arguments marketing – « mon IA est tellement forte qu’elle pirate toute seule des serveurs » – et ce même si les faits rapportés sont évidemment véridiques et potentiellement très graves dans leurs implications.
Un commentaire pour cet article :