La Chine s’apprête à durcir le cadre réglementaire entourant les intelligences artificielles capables de simuler des comportements humains. Selon un document publié samedi par l’Administration centrale du cyberespace, Pékin propose une série de règles visant les systèmes d’IA dits « anthropomorphiques », avec une consultation publique ouverte jusqu’au 25 janvier 2026.
Des IA conçues pour interagir émotionnellement
Le texte adopte un ton volontairement accessible et ne se limite pas aux seuls chatbots, même si ces derniers sont clairement concernés. Il vise plus largement les produits d’IA capables d’interagir avec les utilisateurs sur le plan émotionnel, en reproduisant des personnalités humaines via le « texte, l’image, l’audio ou la vidéo ».
Ces systèmes devront en outre impérativement être alignés sur les « valeurs socialistes fondamentales ». Les autorités entendent ainsi encadrer non seulement les usages techniques, mais aussi les comportements et les valeurs véhiculées par ces IA.
Transparence, protection des données et limites strictes
Parmi les obligations proposées, les IA devront se déclarer explicitement comme telles, permettre aux utilisateurs de supprimer leur historique et interdire l’exploitation des données personnelles à des fins d’entraînement sans consentement préalable.
Le projet interdit notamment toute production mettant en danger la sécurité nationale, diffusant des rumeurs, de la violence, des obscénités ou des propos diffamatoires. Les « fausses promesses », les contenus nuisant aux relations interpersonnelles et toute forme de manipulation émotionnelle poussant à de mauvaises décisions sont également proscrits.
Les fournisseurs ne pourront pas concevoir de chatbots volontairement addictifs ni de systèmes cherchant à remplacer les relations humaines. En cas d’utilisation prolongée, un message devra inviter l’utilisateur à faire une pause après deux heures d’interaction.
Un filet de sécurité pour les situations critiques
Enfin, ces IA devront être capables de détecter les états émotionnels intenses. En cas de menace d’automutilation ou de suicide, la conversation devra être transférée à un interlocuteur humain.
Entre soucis légitime de sécurité et objectifs politiques (voire idéologiques) beaucoup plus discutables, ces nouvelles règles particulièrement drastiques pourraient avoir pour effet contre-productif de brider les IA conçues en Chine et in fine leur faire perdre de l’attrait par rapport aux IA américaines nettement plus dérégulées.
