Huit États américains attaquent OpenAI en justice, accusant ChatGPT de mettre en danger les mineurs et d’induire le public en erreur sur la sécurité de son chatbot. Ces plaintes réclament des changements dans le fonctionnement de l’intelligence artificielle et pourraient accentuer la pression réglementaire sur l’entreprise, déjà confrontée à plusieurs procédures liées à des préjudices présumés.
Huit États dénoncent les risques de ChatGPT pour les enfants
L’Iowa, le Kansas, le Nebraska, la Virginie-Occidentale, l’Arkansas, l’Arizona, l’Idaho et le Montana ont engagé des actions distinctes devant leurs tribunaux d’État. Leurs procureurs généraux accusent OpenAI d’avoir présenté ChatGPT comme un outil sûr, y compris pour les jeunes, alors que le chatbot IA pourrait renforcer des idées délirantes, encourager des comportements dangereux et aider certains utilisateurs à préparer des actes violents, selon les plaintes.
Les procédures évoquent notamment des affaires dans lesquelles des familles estiment que les échanges avec ChatGPT ont contribué à des suicides ou à d’autres préjudices. Les États américains dénoncent aussi des conseils médicaux dangereux, des relations malsaines entretenues par le chatbot et des protections insuffisantes pour les mineurs.
Les États américains accusent OpenAI d’avoir enfreint les lois locales de protection des consommateurs en présentant de manière trompeuse le niveau de sécurité de ChatGPT. Ils demandent des sanctions civiles et des dommages et intérêts, ainsi que des mesures contraignant l’entreprise à modifier le fonctionnement du chatbot. Certaines plaintes réclament également qu’OpenAI restitue les bénéfices tirés de l’utilisation du service par des mineurs lésés.
Les demandes vont jusqu’au développement des modèles d’IA : les procureurs veulent notamment empêcher OpenAI de développer des systèmes capables de s’améliorer eux-mêmes tant que l’entreprise ne peut pas garantir leur alignement sur les valeurs humaines. L’ampleur exacte des mesures qui pourraient être imposées dépendra des décisions des tribunaux et aucune de ces demandes ne constitue pour l’instant une obligation définitive.
OpenAI défend ses protections
OpenAI affirme avoir intégré à ChatGPT des protections adaptées à l’âge des utilisateurs. Un porte-parole cite notamment les contrôles parentaux, les rappels de pause et les mécanismes de protection destinés aux jeunes. L’entreprise dit vouloir continuer à travailler avec des experts et les autorités afin d’améliorer ces dispositifs, tout en plaidant pour des règles applicables à l’ensemble du secteur de l’intelligence artificielle.
Cette action collective de huit États américains s’ajoute à une série de procédures visant l’entreprise. La Floride avait déjà engagé une action similaire en juin, tandis que plusieurs familles poursuivent OpenAI en affirmant que ChatGPT a joué un rôle dans des situations de suicide ou de violence. Ces dossiers soulèvent une question centrale pour les entreprises d’IA : jusqu’où doivent-elles être responsables des effets possibles des réponses de leurs systèmes, en particulier auprès des personnes vulnérables ?
Les plaintes ne signifient pas qu’OpenAI a été reconnu coupable. Elles ouvrent toutefois un nouveau front judiciaire pour l’entreprise qui devra défendre ses pratiques de sécurité et la manière dont elle présente les risques de ChatGPT au public. L’issue des procédures pourrait peser sur les exigences imposées aux chatbots utilisés par les mineurs aux États-Unis.
