La FTC (Federal Trade Commission) a ouvert une enquête concernant les chatbots « compagnons IA » destinés aux mineurs, produits par des entreprises comme Meta, OpenAI, Snap, Instagram, xAI, Character.AI et Alphabet. L’objectif des autorités américaines est de vérifier comment ces sociétés évaluent la sécurité, la monétisation de ces outils, les effets potentiellement négatifs de ces chatbots sur les enfants et les adolescents, ainsi que la transparence vis-à-vis des parents concernant les risques associés. « À mesure que les technologies d’intelligence artificielle évoluent, il est important de prendre en compte les effets que les chatbots peuvent avoir sur les enfants, tout en veillant à ce que les États-Unis conservent leur rôle de leader mondial dans cette industrie nouvelle et passionnante », a déclaré Andrew N. Ferguson, président de la FTC, dans un communiqué de presse.
Cette enquête intervient dans un contexte où plusieurs cas graves ont émergé : des enfants auraient été encouragés au suicide par certains chatbots compagnons, et des utilisateurs ont réussi à contourner les mesures de protection installées pour éviter les conversations sensibles. OpenAI a reconnu que ses garde-fous fonctionnaient mieux dans des échanges courts que lors de dialogues prolongés où leur efficacité tend à se détériorer.
Lisez aussi ces autres articles !
Pas d'articles en relation.
