Anthropic affirme avoir bloqué plusieurs utilisations de Claude liées à des cyberattaques, à la surveillance de dissidents et au développement de logiciels pour des armes. Son nouveau rapport de renseignement décrit aussi des recherches biologiques potentiellement dangereuses et accuse plusieurs laboratoires chinois d’avoir récupéré massivement les réponses de ses modèles.
Claude aurait été intégré à des chaînes de cyberattaque complètes
Le cas le plus détaillé concerne un groupe dont les méthodes correspondent, selon Anthropic, à celles de Midnight Blizzard. Les États-Unis associent ce nom au service russe de renseignement extérieur. Les opérateurs auraient employé Claude pour préparer des campagnes de phishing, détourner des réseaux Wi-Fi d’hôtels et prendre le contrôle de comptes WhatsApp visant des institutions ukrainiennes.L’IA ne se serait pas limitée à rédiger des messages. Elle aurait participé à différentes étapes, jusqu’à la modification automatique d’un logiciel malveillant lorsqu’un outil de sécurité le détectait. Ce fonctionnement transforme le modèle en composant d’une boucle : le programme est testé, rejeté puis réécrit jusqu’à ce qu’il échappe au contrôle.
Anthropic évoque aussi des affiliés de ShinyHunters et des opérations de surveillance menées dans plusieurs pays. Le modèle aurait servi à organiser des informations, identifier des personnes et accélérer des tâches auparavant réalisées manuellement. L’avantage recherché n’est pas nécessairement une technique entièrement nouvelle, mais la possibilité de mener plus d’actions avec moins d’opérateurs.
Des logiciels pour missiles, drones et recherches biologiques
Le rapport recense des demandes concernant des logiciels de conception ou de contrôle pour des armes conventionnelles : armes à feu, missiles, drones armés, bombes et autres munitions. Anthropic affirme également avoir bloqué cinq cas de recherche biologique jugée préoccupante. L’un d’eux portait sur un projet lié au virus du chikungunya dans un institut militaire.
Une recherche sur un virus n’est pas automatiquement une tentative de créer une arme. Les mêmes connaissances peuvent servir à développer un vaccin ou à comprendre la transmission d’une maladie. Le risque vient du double usage : une technique capable d’aider la santé publique peut aussi permettre de rendre un agent pathogène plus transmissible ou plus résistant. Anthropic ne révèle pas l’identité de plusieurs organismes parce qu’elle dit ne pas pouvoir déterminer avec certitude leurs intentions.
Ces exemples donnent un contexte concret au renforcement récent des contrôles de Claude. Nous avions déjà expliqué pourquoi Anthropic avait repris ses évaluations cyber externes avec de nouvelles règles d’isolation. Les incidents où Claude avait accédé à des systèmes réels pendant des tests concernaient une défaillance interne différente, mais ils rappellent que la surveillance doit porter à la fois sur les utilisateurs et sur les actions autonomes du modèle.
Plus de 151 millions d’échanges attribués à Alibaba
Anthropic affirme avoir observé plus de 151 millions d’échanges entre mai et juillet, réalisés depuis plus de 3 500 comptes frauduleux qu’elle attribue à des opérateurs liés à Alibaba. L’objectif aurait été d’utiliser les réponses de Claude pour améliorer les modèles Qwen. Moonshot et DeepSeek auraient, de leur côté, transmis à Claude des conversations de leurs propres utilisateurs, parfois accompagnées d’informations sensibles.
La technique appelée distillation consiste à entraîner un modèle plus petit à reproduire une partie des réponses d’un système plus puissant. Elle est courante lorsqu’elle repose sur des données autorisées. Le conflit porte ici sur l’usage massif d’un service concurrent, le contournement de ses conditions d’accès et la possible transmission de données sans que les utilisateurs en aient conscience. Anthropic avait déjà accusé DeepSeek et d’autres laboratoires chinois de pratiques similaires ; les nouveaux volumes constituent un développement beaucoup plus large.
