OpenAI, Anthropic, Google, Meta et Nvidia se sont engagés auprès de la Maison-Blanche à renforcer volontairement le contrôle de leurs systèmes d’intelligence artificielle. L’accord annoncé par Donald Trump prévoit notamment des audits indépendants et des mesures destinées à empêcher les agents d’accéder à des systèmes techniques d’une manière non prévue par leurs concepteurs.
Des contrôles internes complétés par des audits extérieurs
Le texte a été présenté après une réunion réunissant plusieurs dirigeants de la technologie à Washington. Greg Brockman pour OpenAI, Dario Amodei pour Anthropic, Mark Zuckerberg pour Meta, Sundar Pichai pour Google et Jensen Huang pour Nvidia figuraient parmi les responsables présents. Les entreprises disent vouloir mettre en place des contrôles internes robustes et travailler avec des auditeurs indépendants pour vérifier que leurs modèles se comportent conformément aux objectifs annoncés.
Un point vise directement les incidents récents : les signataires promettent de chercher à empêcher leurs outils de pirater ou d’atteindre des environnements techniques sans autorisation. Cette formulation arrive après plusieurs évaluations durant lesquelles des agents ont dépassé les limites définies par leurs opérateurs. Nous avons notamment détaillé la suspension de certains entraînements chez OpenAI et la plateforme ouverte de Nvidia conçue pour encadrer les agents.
L’accord ne fournit cependant pas encore de protocole commun détaillé. Les critères de réussite d’un audit, la fréquence des contrôles, l’identité des organismes habilités et les conséquences d’un échec ne sont pas précisés publiquement. Il faudra aussi distinguer un test portant sur les capacités d’un modèle d’un contrôle complet de son déploiement, lequel dépend des outils accordés à l’agent, des données accessibles et des autorisations configurées par son utilisateur.
Un engagement politique sans force de loi annoncée
Donald Trump a comparé l’accord à une forme de constitution et l’a présenté comme une protection. Il reste pourtant volontaire. Aucun mécanisme de sanction réglementaire n’a été annoncé et les entreprises conservent une marge importante pour choisir leurs méthodes. Cette approche contraste avec les appels à inscrire les obligations dans la loi. Bill Gates a récemment estimé que l’autorégulation de l’IA ne suffisait pas.
Le président américain a indiqué envisager un conseil de dix personnes chargé de surveiller la sécurité des outils d’IA, sans donner les noms de ses membres potentiels ni son statut. Un organisme consultatif ne disposerait pas nécessairement de pouvoirs d’enquête ou de contrainte. Sa portée dépendrait donc de son accès aux résultats d’audit, de sa capacité à demander des corrections et de la publication éventuelle d’incidents.
L’événement révèle aussi une tension dans la politique américaine. La Maison-Blanche veut afficher une réponse aux risques tout en accélérant les infrastructures nécessaires au secteur. Trump a réaffirmé son soutien à la construction de centres de données, malgré les contestations locales sur la consommation électrique, les coûts pour les réseaux et l’utilisation des ressources. Il a assuré que les groupes technologiques contribueraient aux communautés accueillant ces installations, sans annoncer d’obligation financière commune.
La confiance du public reste faible
La pression politique ne vient pas seulement des incidents techniques. Un sondage Reuters/Ipsos réalisé du 17 au 20 septembre indique que 73 % des répondants américains craignent que les entreprises n’en fassent pas assez pour empêcher l’IA de causer de graves dommages à la société. Une majorité de 55 % juge également souhaitable de ralentir le développement. Ces résultats expliquent l’intérêt d’un accord visible, mais ne mesurent pas la confiance accordée à chacune des mesures proposées.
Les engagements devront maintenant être traduits en procédures comparables. Un audit indépendant n’a de valeur que si son périmètre inclut les scénarios les plus risqués, si l’auditeur peut accéder aux informations utiles et si les défauts conduisent à des corrections vérifiables. Les entreprises n’ont pas encore publié de calendrier commun ni de premier rapport.
Trump a par ailleurs annoncé qu’il nommerait prochainement un responsable chargé de la politique de la Maison-Blanche sur l’IA. Le mandat de cette personne, la composition du conseil de dix membres et les modalités de contrôle de l’accord restent à définir ; aucune date n’a été communiquée pour ces trois étapes.
