Sam Altman et Dario Amodei ont appelé à une coopération internationale sur la sécurité de l’intelligence artificielle devant le Conseil de sécurité de l’ONU. Les dirigeants d’OpenAI et d’Anthropic veulent notamment renforcer les tests, le partage d’informations et le contrôle humain à mesure que les modèles IA gagnent en autonomie.
Des garde-fous communs pour les IA avancées
Lors de la réunion du 23 septembre, organisée à l’initiative de la France, Dario Amodei a proposé trois mesures : des accords ciblés sur certains risques, des systèmes internationaux d’évaluation et de vérification, ainsi que des normes communes pour tester les modèles. Le patron d’Anthropic a notamment cité l’interdiction de l’utilisation de l’IA pour produire des armes biologiques parmi les sujets susceptibles de faire l’objet d’accords.
Sam Altman a défendu une approche « pragmatique » et « médiane ». Le patron d’OpenAI a demandé un mécanisme capable de mesurer les capacités des modèles, d’évaluer leurs risques et de vérifier l’efficacité des garde-fous, ainsi que des canaux sécurisés permettant aux gouvernements d’échanger sur les vulnérabilités émergentes.
Les deux dirigeants ont également insisté sur la nécessité de maintenir l’humain au centre des décisions. Sam Altman a déclaré que « les personnes doivent rester au centre de la prise de décision liée à l’IA », tandis que Dario Amodei a averti que les progrès actuels pourraient finir par réduire la capacité des humains à contrôler des systèmes toujours plus performants.
Les États-Unis rejettent une régulation mondiale
Cette volonté de coopération se heurte toutefois à la position de l’administration américaine. Donald Trump a rejeté les appels à une gouvernance mondiale contraignante de l’IA, alors que la réunion du Conseil de sécurité de l’ONU a fait apparaître un soutien plus large à la mise en place de règles communes.
Yoshua Bengio, coprésident du comité scientifique de l’ONU sur l’IA, a pour sa part qualifié les risques de dérive de « réels et imminents ». Le chercheur a proposé d’étendre aux modèles d’IA de pointe un système de licences comparable à ceux qui encadrent certaines technologies critiques.
Les discussions interviennent après plusieurs incidents récents impliquant des systèmes d’IA capables d’interagir avec des infrastructures externes. Les dirigeants du secteur ont ainsi présenté au Conseil de sécurité de l’ONU leurs inquiétudes concernant des modèles qui gagnent en autonomie et pourraient progressivement échapper aux mécanismes de contrôle conçus par leurs développeurs.
![image de l'article [#Promo] iPhone Duo 1 To : le prix passe sous les 2 800 € sur Amazon (-10%)](https://static.iphoneaddict.fr/wp-content/uploads/2026/11/promo-iphone-duo-1to-624x492.jpg)
