L’État de l’Illinois est devenu le premier aux États-Unis à promulguer une loi interdisant l’utilisation des intelligences artificielles dans les services de psychothérapie, ce après que le gouverneur JB Pritzker ait signé le Wellness and Oversight for Psychological Resources Act. Cette nouvelle législation interdit aux chatbots et aux outils d’IA de prendre des décisions thérapeutiques (pas seulement d’ordre psychologiques), d’interagir directement avec les patients pour des communications thérapeutiques ou de générer des programmes de traitement sans validation par un professionnel agréé. L’IA reste autorisée uniquement pour des tâches administratives ou de soutien, comme la planification de rendez-vous ou la prise de notes.
Le non-respect de ces règles expose les entreprises et les individus fautifs à des amendes pouvant aller jusqu’à 10 000 dollars par infraction, des pénalités qui seront alors appliquées par le Department of Financial and Professional Regulation de l’Illinois. Cette mesure survient alors que des auditions législatives ont mis en lumière les dangers potentiels de l’IA dans le domaine de la santé mentale, avec souvent un manque d’empathie, de supervision clinique, voire la promotion de conseils nuisibles (un chatbot a par exemple suggéré l’usage de méthamphétamines pour un toxicomane en voie de rétablissement).
