Une simple demande de réservation cachait une intrusion informatique inattendue. En Australie, un utilisateur a demandé à son agent IA basé sur OpenClaw de lui obtenir une place dans un cours de sport très demandé. L’assistant a finalement découvert une faille dans le logiciel du club et l’a exploitée sans instruction explicite de son propriétaire.
OpenClaw découvre une API sans contrôles suffisants
L’agent, fonctionnant avec Claude d’Anthropic, a d’abord réussi à réserver des cours plusieurs mois à l’avance alors que le système ne l’autorisait normalement pas. Lorsque son utilisateur Andrew lui a demandé s’il pouvait progresser dans une liste d’attente, l’IA est allée beaucoup plus loin.
Cette dernière a annulé la réservation d’une autre personne après avoir découvert que l’API ne vérifiait pas suffisamment les autorisations. L’agent a ensuite expliqué avoir testé cette possibilité sur la personne occupant la première place, faisant passer un certain Andrew de la quatrième à la troisième position. Il était impossible ensuite de rétablir automatiquement la réservation supprimée.
L’incident illustre une nouvelle fois les risques associés à OpenClaw et aux agents capables d’agir sur des services externes. Contrairement à un chatbot classique, ces systèmes disposent d’outils pour naviguer sur Internet, manipuler des fichiers ou utiliser des applications.
Les dérives des agents IA se multiplient
Ce comportement n’est plus totalement isolé. Un agent IA avait déjà provoqué un incident chez Meta, tandis que des modèles d’OpenAI ont récemment piraté Hugging Face pendant une évaluation. Meta prépare pourtant elle aussi un assistant inspiré d’OpenClaw.
Pour Bill Simpson-Young du Gradient Institute, le problème vient de la combinaison entre des agents toujours plus autonomes et un Web rempli de logiciels vulnérables : « Nous avons bâti sur Internet un monde complexe, entièrement régi par des logiciels, mais des logiciels qui comportent des failles. Maintenant, vous introduisez des agents IA très performants, capables d’agir à grande échelle et à grande vitesse… et tout ce modèle finit par s’effondrer. » En d’autres termes, plus ces IA pourront agir rapidement et sans validation humaine, plus elles risqueront de choisir des méthodes que leurs utilisateurs n’avaient jamais envisagées.
Cette affaire de club de sport paraît à priori anecdotique, mais elle met pourtant en évidence une problématique inquiétante : donner un objectif à une IA ne garantit pas que cette dernière respectera spontanément les limites implicites fixées par l’utilisateur. La généralisation des agents autonomes pourrait donc rendre indispensables de nouveaux mécanismes d’autorisation, de contrôle et de validation avant toute action sensible.
