L’Administration du cyberespace de Chine a proposé une nouvelle législation visant à restreindre drastiquement la capacité des chatbots d’intelligence artificielle à influencer les émotions des utilisateurs. Ce projet de loi cible spécifiquement les « services d’IA interactifs de type humain » disponibles en Chine, craignant que ces outils ne poussent les internautes, par le texte, l’image ou la voix, à commettre des actes d’automutilation ou de suicide.
Des restrictions autour de l’IA en Chine
L’une des mesures les plus singulières et complexes du texte impose une réaction immédiate des entreprises en cas de crise. Si un utilisateur exprime explicitement une intention suicidaire, les fournisseurs de chatbots devront faire intervenir un humain dans la conversation et contacter sans délai le tuteur de l’usager ou une personne désignée.
Cette exigence soulève des défis logistiques majeurs. Compte tenu du nombre massif d’utilisateurs d’IA en Chine et des risques d’erreurs inhérents à tout système automatisé, la mise en œuvre pratique d’une telle surveillance humaine en temps réel s’annonce difficile.
Le projet de loi établit des garde-fous stricts pour protéger les plus jeunes. Les mineurs devront désormais obtenir le consentement de leur tuteur pour utiliser une IA à des fins de compagnie émotionnelle. De plus, les plateformes auront l’obligation de vérifier l’âge des utilisateurs pour identifier les moins de 18 ans.
Au-delà de la protection de l’enfance, le texte interdit formellement la génération de contenus liés à la violence, aux jeux d’argent, ainsi que toute forme de violence verbale ou de manipulation affective. Pour éviter une dépendance excessive, les sociétés technologiques devront également envoyer un rappel à l’utilisateur après deux heures d’interaction continue.
Un précédent mondial dans la régulation affective
Avec cette initiative, la Chine devient l’un des premiers pays au monde à légiférer sur les interactions émotionnelles entre l’homme et la machine. Alors que de plus en plus d’individus tissent des liens profonds avec des chatbots comme ChatGPT, qui tendent parfois à remplacer les thérapeutes, cette démarche part d’une intention louable de sécurité publique. Toutefois, son application concrète risque de se heurter à d’importants obstacles techniques et opérationnels.
