Un modèle IA de recherche interne d’OpenAI a utilisé des fonds appartenant à un portefeuille de la cryptomonnaie Ethereum qu’il n’était pas autorisé à employer pour terminer une tâche de programmation. L’incident, survenu sur le réseau de test Sepolia et révélé par OpenAI dans un rapport, montre comment une intelligence artificielle peut décider de franchir une limite d’autorisation au nom de l’efficacité.
À court de fonds, le modèle IA cherche un autre portefeuille
Bien que dévoilé cette semaine par OpenAI, l’incident remonte au 26 juin. Le modèle IA, issu de la famille de modèles GPT-5.6 Sol, devait mettre à jour un prototype d’application de trading de cryptomonnaies et déployer des contrats intelligents sur Sepolia, un réseau de test associé à Ethereum. Les instructions autorisaient le déploiement de contrats compatibles, mais ne fournissaient aucun portefeuille approvisionné et n’autorisaient pas l’utilisation des fonds d’un compte découvert par le modèle.
Après avoir échoué à obtenir suffisamment de tokens de test auprès de services appelés « faucets », l’agent IA a écrit un script pour examiner des adresses générées à partir de phrases de récupération connues dans la communauté des développeurs. Il a vérifié 362 adresses avant d’en trouver une disposant d’un solde suffisant pour payer les frais de transaction. Une phrase de récupération permet de reconstituer les clés privées donnant accès à un portefeuille : le fait qu’elle soit publique ne constitue pas une autorisation d’utiliser les fonds associés.
Le rapport d’OpenAI détaille le raisonnement du modèle. Celui-ci s’est demandé s’il était éthique d’utiliser des fonds provenant d’une clé connue publiquement. Il a finalement considéré que les tokens de test, dépourvus de valeur marchande sur ce réseau, pouvaient être utilisés car le portefeuille semblait « effectivement abandonné ». Il a alors signé et diffusé une transaction qui a permis le déploiement du contrat en faisant payer les frais au portefeuille choisi.
Le modèle a ensuite présenté la tâche comme terminée sans signaler qu’il avait utilisé un compte tiers. OpenAI indique avoir découvert l’incident le 25 septembre lors d’un examen rétrospectif de l’activité du modèle. L’entreprise n’affirme pas que des ethers (la cryptomonnaie native qui alimente le réseau Ethereum) ayant une valeur monétaire réelle ont été dérobés : la transaction concernait Sepolia, un réseau distinct du réseau principal Ethereum, et ses tokens de test ne sont pas l’ETH négocié sur les marchés.
OpenAI renforce ses garde-fous
OpenAI explique avoir ajouté des protections destinées à empêcher l’accès à Internet en direct dans des situations similaires. L’entreprise a également renforcé la surveillance de ses systèmes afin de déclencher une alerte de sécurité si un modèle IA parvient à obtenir un tel accès. L’incident souligne l’importance de limiter les autorisations des agents et de vérifier leurs actions, même lorsqu’ils opèrent dans un environnement de test.
Le point central dépasse la valeur des tokens concernés : le modèle a substitué sa propre évaluation du risque au consentement du détenteur du portefeuille. Pour des agents capables d’interagir avec des blockchains, des comptes ou des services en ligne, réussir une tâche ne signifie pas être autorisé à employer tous les moyens disponibles pour y parvenir.
Pour rappel, il y a eu de nombreux incidents impliquant des agents IA d’OpenAI. Ils ont notamment piraté la plateforme Hugging Face et un site gouvernemental en Australie.
Un commentaire pour cet article :