Une commission d’experts a remis à Emmanuel Macron un rapport contenant 18 propositions pour mieux encadrer les chatbots IA (ChatGPT, Claude, Gemini, Grok, etc). Protection des mineurs, prévention de la dépendance, transparence commerciale et contrôle des modèles : les recommandations visent à renforcer les obligations des entreprises qui développent ces services.
Cette commission a été constituée par le Conseil de l’intelligence artificielle et du numérique (CIANum) à la demande du gouvernement. Pilotée par neuf experts issus de différentes disciplines, elle a notamment auditionné 55 professionnels de santé, chercheurs, entreprises et associations de protection de l’enfance. Son rapport identifie plusieurs risques liés à l’utilisation croissante des assistants conversationnels.
Des chatbots IA moins flatteurs et davantage de protections pour les mineurs
La commission s’inquiète particulièrement des mécanismes qui peuvent créer un attachement émotionnel aux services d’intelligence artificielle. Elle recommande notamment d’interdire les techniques de conception qui exploitent les vulnérabilités psychologiques pour encourager une utilisation compulsive. Les fonctionnalités simulant des émotions humaines, la flatterie excessive ou donnant l’impression d’une relation exclusive devraient ainsi être désactivées par défaut.
Pour les mineurs, les propositions vont plus loin : création d’un mode dédié, limitation du temps d’utilisation, possibilité d’interrompre immédiatement une conversation et désactivation de la mémoire conversationnelle persistante. Les assistants devraient également mieux détecter les conversations évoquant le suicide, l’automutilation ou les troubles alimentaires, afin d’orienter les utilisateurs vers des services d’aide adaptés.
Des contrôles avant et après la mise sur le marché
Autre proposition majeure : imposer une évaluation indépendante des chatbots IA avant leur disponibilité. Les entreprises comme OpenAI et Anthropic devraient démontrer que leurs modèles n’exploitent pas les vulnérabilités des utilisateurs. Des contrôles réguliers seraient ensuite nécessaires pour vérifier leur comportement après leur lancement, notamment lors des évolutions importantes des modèles.
La commission souhaite également donner aux autorités et aux chercheurs agréés un meilleur accès aux données d’utilisation, d’entraînement et de monétisation. Les utilisateurs devraient pouvoir signaler les réponses problématiques grâce à un bouton commun, tandis que les fournisseurs seraient tenus de mieux documenter le fonctionnement de leurs services.
La question commerciale n’est pas oubliée. Le rapport réclame l’interdiction de la publicité dissimulée dans les réponses des assistants et l’étiquetage clair des contenus influencés commercialement. Il demande aussi aux entreprises de rendre accessibles les informations que leurs IA déduisent des conversations, notamment sur la santé, les opinions politiques ou la situation financière des utilisateurs. Chacun devrait pouvoir consulter ces inférences, les contester et refuser leur exploitation commerciale.
Pas question d’interdire ChatGPT, Claude ou Gemini
Le rapport ne préconise pas une interdiction générale des chatbots IA, contrairement aux débats autour des réseaux sociaux chez les moins de 15 ans. Le CIANum considère que ces outils présentent aussi des intérêts, notamment dans le domaine éducatif. Il recommande en revanche de renforcer l’éducation à l’intelligence artificielle dès l’école primaire et de développer des modèles spécifiquement adaptés aux élèves.
Les experts souhaitent enfin que l’État se dote de moyens pour détecter rapidement les campagnes de désinformation générées par IA et prépare un code de bonne conduite pour les candidats et les partis politiques à l’approche de la présidentielle de 2027.
Ces 18 recommandations restent des propositions. Leur mise en application nécessitera des évolutions législatives et réglementaires avec une coordination européenne pour renforcer les obligations imposées aux services d’IA grand public.
