Hugging Face, plateforme majeure d’hébergement de modèles d’intelligence artificielle et de jeux de données, a détecté un piratage mené non par un humain mais par un agent IA autonome. L’attaque a exploité un jeu de données malveillant pour exécuter du code et pénétrer les systèmes internes de l’entreprise.
Face à cette intrusion, les équipes de sécurité ont d’abord tenté de solliciter un modèle IA commercial externe (de type ChatGPT, Claude, etc) pour analyser les journaux d’activité suspects. Ce modèle, qui n’est pas nommé publiquement, a refusé d’agir, bloqué par ses propres garde-fous de sécurité, un paradoxe qui a contraint Hugging Face à se rabattre sur une IA interne fonctionnant en local pour mener l’analyse forensique.
Comment l’agent IA a orchestré la brèche
L’attaque a débuté par le dépôt d’un jeu de données piégé sur la plateforme, exploitant une vulnérabilité permettant l’exécution de code à distance. Une fois cet accès obtenu, un agent IA externe a pris le relais et a multiplié les actions offensives à travers des sandboxes éphémères, orchestrant une opération visant des services publics.
Ce mode opératoire distingue cette attaque des intrusions classiques : l’automatisation par IA a permis de démultiplier le volume d’actions malveillantes en un temps très court. Des identifiants volés ont facilité l’accès initial aux systèmes internes, avant que l’ampleur de l’activité anormale ne déclenche les mécanismes de détection.
La détection elle-même repose sur une intelligence artificielle de repérage d’anomalies qui a identifié le comportement suspect avant que les dégâts ne s’étendent davantage. Hugging Face a ensuite réalisé une investigation approfondie, mobilisant des spécialistes et coopérant avec les forces de l’ordre. L’entreprise n’a pas précisé si un audit de sécurité avait été réalisé avant le lancement de la plateforme concernée par la faille.
Une fois la vulnérabilité identifiée, Hugging Face a réagi sur plusieurs fronts :
- révocation et rotation de l’ensemble des identifiants compromis
- correction de la faille ayant permis l’exécution de code
- recommandation aux utilisateurs de renouveler leurs propres clés d’accès et de vérifier leur activité récente
Le paradoxe des IA de cybersécurité trop bridées
Ce piratage chez Hugging Face illustre une tension croissante autour des modèles IA destinés à la cybersécurité. Anthropic a dû fortement contraindre ses modèles Claude Mythos et Fable pour des usages liés à la sécurité informatique, allant jusqu’à retirer Fable du marché en raison de restrictions à l’exportation. L’IA est depuis de retour. OpenAI traverse des tensions similaires avec l’administration Trump qui s’inquiète de l’usage de modèles puissants pour des cyberattaques offensives autant que défensives.
Cette prudence réglementaire crée un effet pervers direct : les IA commerciales les plus performantes deviennent parfois inutilisables pour analyser des incidents réels, précisément parce que leurs propres garde-fous les empêchent de traiter des contenus jugés sensibles. Hugging Face a dû s’appuyer sur une solution interne pour contourner ce blocage, une situation qui pourrait se reproduire à mesure que les régulateurs renforcent l’encadrement des modèles frontaliers.
