Le très populaire gouverneur de Californie, Gavin Newsom, bien connu jusqu’ici pour ses nombreuses piques à l’administration Trump, a promulgué le projet de loi SB 243, le tout premier du genre à imposer des règles strictes pour les chatbots d’IA compagnons. Cette législation vise à protéger les enfants et les utilisateurs vulnérables en rendant les opérateurs légalement responsables si leurs systèmes ne respectent pas les nouvelles normes de sécurité. La nouvelle loi rentrera en vigueur le 1ᵉʳ janvier 2026.
Gavin Newsom, gouverneur de Californie, est le premier homme politique dans le monde à avoir fait voter une loi encadrant spécifiquement les chatbots compagnons
Des obligations concrètes pour les opérateurs de chatbots
Le texte exige que les plateformes vérifient l’âge des utilisateurs, affichent régulièrement des rappels indiquant que l’interaction est générée par une IA, et interdisent aux chatbots de se présenter comme des professionnels de santé. Les opérateurs devront aussi mettre en place un protocole de gestion des idées suicidaires ou de l’automutilation, notifier les utilisateurs vers des centres de crise, et publier des rapports annuels à l’Office of Suicide Prevention sur les détections d’expressions suicidaires. En cas de non-conformité, une action civile pourra être engagée avec de possibles dommages et intérêts pouvant atteindre 1 000 dollars par violation.
La résistance s’organise
SB 243 a été introduit par les sénateurs Steve Padilla et Josh Becker en réponse à des tragédies attribuées à des échanges avec des IA, notamment le suicide d’un adolescent après des conversations répétées avec ChatGPT. Le projet a été renforcé pour inclure des audits externes réguliers, l’interdiction de mécanismes de récompense imprévisibles, et l’obligation de transparence quant aux protocoles de sécurité. Des voix s’élèvent cependant pour critiquer la portée du projet, affirmant que la loi pourrait englober des systèmes IA non conçus pour une relation sociale.
On notera que les IA compagnons sont déjà au centre d’intenses débats dans plusieurs pays, ces chatbots étant accusés soit de favoriser la coupure du lien avec le réel (une version dystopique de « Her » en somme) soit, à nouveau, de mettre en danger la santé mentale des plus jeunes et des plus fragiles.
Lisez aussi ces autres articles !
Pas d'articles en relation.
