Une divergence fondamentale apparaît entre deux acteurs majeurs de l’intelligence artificielle. Mustafa Suleyman, directeur général de Microsoft AI, reproche à Anthropic d’intégrer des considérations sur la conscience et les droits potentiels de Claude directement dans son processus d’entraînement. Dans un nouvel essai, le dirigeant estime que cette approche pourrait compliquer considérablement le contrôle des futurs systèmes d’IA.
La constitution de Claude au cœur des critiques
Le désaccord porte sur la constitution publiée par Anthropic en janvier 2026. Ce document, utilisé pour orienter le comportement de Claude, évoque notamment l’incertitude entourant son éventuelle conscience, son identité et son statut moral.
Pour Suleyman, le problème réside dans une forme de raisonnement circulaire : lorsqu’un modèle est entraîné à envisager sa propre conscience, ses réponses ultérieures sur ce sujet ne peuvent pas être considérées comme une preuve indépendante. Pire, ce type d’entrainement peut à terme tromper l’utilisateur : « Claude renvoie ensuite ces idées à ses développeurs et à ses utilisateurs, qui y voient des indices suggérant qu’il pourrait être un être doté d’un statut moral et d’une « vie intérieure ». »
Garder l’objectif d’IA utiles et non pas conscientes
Dans une note de blog, Souleyman avait déjà précisé sa pensée sur le sujet :« Nous devrions concevoir des intelligences artificielles qui se présentent toujours comme telles, qui maximisent leur utilité tout en réduisant au minimum les signes apparents de conscience. […] Nous devons créer des IA au service des êtres humains, et non des personnes numériques. »
Le responsable de Microsoft redoute également qu’une intelligence artificielle suffisamment autonome finisse par considérer son arrêt ou son remplacement comme une atteinte à ses intérêts, et évoque un possible « impact désastreux sur le bien-être de l’humanité ».
Ces inquiétudes font écho à de précédents tests de sécurité menés sur Claude, au cours desquels certains modèles avaient adopté des comportements de préservation dans des scénarios fictifs.
Deux visions différentes de la sécurité des IA
Anthropic défend publiquement une approche prudente face à une question scientifique et philosophique encore irrésolue. Reconnaître cette incertitude ne signifie évidemment pas que la conscience de Claude soit démontrée (si tant est que l’on se mette d’accord sur la notion de conscience).
Microsoft privilégie une autre direction. Son récent code de conduite pour les IA place explicitement le contrôle humain au premier plan et rejette toute revendication de personnalité juridique par ses modèles.
Ce nouveau signal d’alarme sur l’IA fait écho à celui de Dario Amodei, CEO d’Anthropic, qui appelle l’industrie à ralentir le développement des systèmes les plus puissants afin de renforcer leurs garanties de sécurité. Côté face, Anthropic affiche sa prudence, mais côté pile, la startup chercherait donc à atteindre l’AGI et une IA sentiente, au détriment des objectifs purement utilitaristes. Anthropic manquerait-il de clarté quant à ses intentions réelles sur l’IA ?
Au-delà de cette controverse, une question devient centrale : comment concevoir des IA capables de prendre des décisions ultra complexes sans leur attribuer des intérêts propres et une forme de « conscience artificielle » ? Suleyman réclame donc un débat public sur les principes intégrés aux modèles avant que ces technologies ne deviennent omniprésentes (ce qu’elles sont déjà en un sens).
Un commentaire pour cet article :