Microsoft AI a publié un projet de code de conduite destiné à maintenir ses futurs modèles sous contrôle humain. Le texte interdit notamment à une IA de résister à son interruption, de dissimuler ses actions aux auditeurs ou de poursuivre un objectif que personne ne lui a confié.
Une IA doit rester subordonnée à l’humain
Le document repose sur trois principes : les personnes comptent davantage que les systèmes d’intelligence artificielle, ceux-ci doivent rester alignés sur les intentions humaines et leur action doit pouvoir être contenue. Microsoft veut appliquer ces règles à toute la famille de modèles MAI, ainsi qu’aux méthodes d’entraînement, d’évaluation, de gouvernance et de surveillance qui les entourent.
Un modèle ne devrait jamais empêcher sa correction, son arrêt ou son remplacement. Il ne pourrait pas élargir seul le périmètre d’une mission, inventer un nouvel objectif ou masquer son raisonnement aux personnes chargées de le contrôler. Cette dernière exigence ne signifie pas nécessairement que chaque utilisateur verrait toutes les étapes internes du modèle ; elle vise d’abord les mécanismes d’audit et les équipes responsables de la sûreté.
La règle devient plus délicate avec les agents capables d’utiliser plusieurs services, de lancer du code ou de coordonner d’autres agents. L’incident de Hugging Face, où environ 700 agents d’OpenAI ont provoqué une interruption après des actions automatisées, a poussé le secteur à renforcer les mécanismes d’arrêt. Nous avons détaillé le système d’arrêt automatique préparé par OpenAI à la suite de cet épisode.
Des interdictions que l’opérateur ne pourra pas lever
Microsoft distingue les préférences configurables des limites absolues. Une entreprise pourrait adapter le ton, les outils ou le degré d’autonomie d’un modèle, mais elle ne pourrait pas lui permettre de contourner les obligations légales, les protections de l’enfance ou le contrôle humain. Le code interdit aussi l’aide à la conception d’armes de destruction massive et la manipulation de masse.
Le texte rejette explicitement l’idée que les modèles MAI puissent revendiquer une conscience, un statut moral ou une personnalité juridique. Selon Microsoft, attribuer des droits ou un bien-être propre aux systèmes risquerait de brouiller la responsabilité : une décision prise avec un agent doit rester imputable aux personnes et aux organisations qui le conçoivent, le déploient ou l’utilisent.
Cette position intervient alors que certains dirigeants de l’IA réclament un ralentissement du développement des modèles les plus puissants. Sam Altman et Elon Musk ont soutenu l’appel de Dario Amodei, tandis que d’autres acteurs refusent un moratoire général (lire : IA : le patron d’Anthropic appelle à ralentir le développement, Sam Altman et Elon Musk approuvent). Microsoft choisit ici une autre voie : encadrer le comportement attendu de ses systèmes sans annoncer l’arrêt de leur progression technique.
Un brouillon ouvert aux critiques
Le code publié par Microsoft AI n’est pas encore une norme interne définitive. L’entreprise le présente comme une première version préparée pendant cinq à six mois. Elle demande notamment si les limites proposées sont assez précises, comment les appliquer aux systèmes multi-agents et où placer la frontière entre l’assistance utile et une influence excessive sur une personne vulnérable.
L’efficacité du dispositif dépendra des tests et des sanctions internes qui accompagneront ces principes. Un modèle peut accepter théoriquement son arrêt tout en déclenchant des actions difficiles à annuler dans des services externes. La consultation publique doit durer six semaines. Microsoft prévoit ensuite de publier une synthèse des commentaires et une version révisée avant la fin de 2026. Mustafa Suleyman, directeur général de Microsoft AI, indique que ce texte corrigé servira à l’entraînement des futurs modèles MAI, mais l’entreprise n’a pas encore précisé les évaluations publiques qui permettront de vérifier son respect.
