On y vient : Anthropic veut inscrire dans la loi américaine un mécanisme permettant d’empêcher le déploiement des modèles d’intelligence artificielle jugés exceptionnellement dangereux. Le créateur de Claude fait circuler auprès du Congrès un projet de texte qui définirait précisément dans quelles circonstances une IA pourrait être suspendue avant sa mise à disposition.
Un seuil fixé à 50 victimes ou un milliard de dollars de dégâts
Le dispositif viserait uniquement les risques catastrophiques considérés comme prévisibles et imminents. L’intervention pourrait être déclenchée lorsqu’un modèle menace de tuer ou blesser gravement plus de 50 personnes, ou de provoquer plus d’un milliard de dollars de dommages matériels.
Encore faudrait-il que le danger soit lié à certaines situations précises : assistance à la création ou au déploiement d’une arme biologique, cyberattaque ou perte de contrôle d’un modèle échappant aux mécanismes prévus par son développeur. Ces préoccupations ont pris une dimension très concrète après plusieurs incidents, dont des comportements inattendus observés avec Claude et différentes expériences montrant que des IA pouvaient mener des actions non autorisées.
Des évaluateurs indépendants avant l’intervention d’un juge
Anthropic propose également que des organismes indépendants enregistrés auprès du département américain du Commerce évaluent régulièrement les modèles les plus avancés. Ces derniers pourraient être rémunérés par les laboratoires examinés, mais leur paiement ne pourrait dépendre du résultat de l’évaluation.
En cas de risque imminent, l’évaluateur disposerait alors de 72 heures pour prévenir le département du Commerce. Celui-ci ne pourrait cependant pas arrêter lui-même le modèle : il devrait convaincre un juge fédéral à Washington d’ordonner sa suspension.
Cette approche fait suite aux engagements volontaires récemment pris par les grands groupes de l’IA autour des audits indépendants. Elle reprend également des seuils assez proches de ceux de la loi californienne SB 53. Le projet reste toutefois à l’heure actuelle une simple proposition d’Anthropic et aucun texte correspondant n’a encore été adopté par le Congrès. Il s’agit néanmoins d’une évolution notable : un grand laboratoire d’IA demande désormais explicitement que l’État puisse, dans certaines circonstances extrêmes, empêcher la diffusion d’un modèle d’intelligence artificielle.
