KultureGeek Hors-Sujet IA : la Californie adopte une loi pour encadrer les chatbots compagnons, et c’est une première

Hors-Sujet

IA : la Californie adopte une loi pour encadrer les chatbots compagnons, et c’est une première

3 min.

13 Oct. 2025 • 18:36

Le très populaire gouverneur de Californie, Gavin Newsom, bien connu jusqu’ici pour ses nombreuses piques à l’administration Trump, a promulgué le projet de loi SB 243, le tout premier du genre à imposer des règles strictes pour les chatbots d’IA compagnons. Cette législation vise à protéger les enfants et les utilisateurs vulnérables en rendant les opérateurs légalement responsables si leurs systèmes ne respectent pas les nouvelles normes de sécurité. La nouvelle loi rentrera en vigueur le 1ᵉʳ janvier 2026.

Gavin Newsom

Gavin Newsom, gouverneur de Californie, est le premier homme politique dans le monde à avoir fait voter une loi encadrant spécifiquement les chatbots compagnons

Des obligations concrètes pour les opérateurs de chatbots

Le texte exige que les plateformes vérifient l’âge des utilisateurs, affichent régulièrement des rappels indiquant que l’interaction est générée par une IA, et interdisent aux chatbots de se présenter comme des professionnels de santé. Les opérateurs devront aussi mettre en place un protocole de gestion des idées suicidaires ou de l’automutilation, notifier les utilisateurs vers des centres de crise, et publier des rapports annuels à l’Office of Suicide Prevention sur les détections d’expressions suicidaires. En cas de non-conformité, une action civile pourra être engagée avec de possibles dommages et intérêts pouvant atteindre 1 000 dollars par violation.

Chatbot Love

La résistance s’organise

SB 243 a été introduit par les sénateurs Steve Padilla et Josh Becker en réponse à des tragédies attribuées à des échanges avec des IA, notamment le suicide d’un adolescent après des conversations répétées avec ChatGPT. Le projet a été renforcé pour inclure des audits externes réguliers, l’interdiction de mécanismes de récompense imprévisibles, et l’obligation de transparence quant aux protocoles de sécurité. Des voix s’élèvent cependant pour critiquer la portée du projet, affirmant que la loi pourrait englober des systèmes IA non conçus pour une relation sociale.

On notera que les IA compagnons sont déjà au centre d’intenses débats dans plusieurs pays, ces chatbots étant accusés soit de favoriser la coupure du lien avec le réel (une version dystopique de « Her » en somme) soit, à nouveau, de mettre en danger la santé mentale des plus jeunes et des plus fragiles.

SOURCETechcrunch

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles