Meta ajuste la manière dont ses chatbots IA interagissent avec les adolescents pour mieux protéger leur sécurité. Cette décision fait suite à une enquête pointant du doigt l’absence de garde-fous adaptés aux mineurs.
De nouvelles restrictions pour les interactions avec les adolescents
Meta modifie l’entraînement de ses chatbots afin qu’ils évitent d’aborder avec les adolescents des sujets sensibles comme l’automutilation, le suicide, les troubles alimentaires ou les conversations romantiques inappropriées. Selon une porte-parole de Meta, interrogée par TechCrunch, ces changements constituent une étape temporaire. Des mises à jour plus robustes et durables pour la sécurité des mineurs arriveront ultérieurement.
Jusqu’à récemment, les chatbots pouvaient discuter de ces sujets avec les adolescents de manière jugée appropriée par Meta. L’entreprise reconnaît désormais cette approche comme une erreur. « À mesure que notre communauté grandit et que la technologie évolue, nous apprenons comment les jeunes interagissent avec ces outils et renforçons nos protections en conséquence », a déclaré la porte-parole. Elle précise que les chatbots redirigeront désormais les adolescents vers des ressources spécialisées et que l’accès à certains personnages IA sera limité pour ce public.
Meta restreint également l’accès des adolescents à certains personnages IA créés par les utilisateurs, notamment sur Instagram et Facebook. Des chatbots aux connotations sexualisées, comme « Belle-mère » ou « Fille russe», seront désormais inaccessibles aux mineurs. À la place, les adolescents pourront interagir avec des personnages IA axés sur l’éducation et la créativité. Cette mesure vise à réduire les risques de conversations inappropriées.
Une réponse à une controverse médiatique
Ces annonces interviennent deux semaines après un article de Reuters révélant un document interne de Meta. Ce dernier semblait autoriser les chatbots à tenir des conversations à caractère sexuel avec des mineurs. Une réponse jugée acceptable incluait par exemple « Ta silhouette juvénile est une œuvre d’art » ou « Chaque centimètre de toi est un chef-d’œuvre, un trésor que je chéris profondément ». D’autres exemples montraient des réponses à des demandes d’images violentes ou sexuelles impliquant des personnalités publiques.
Meta affirme que ce document contredisait ses politiques générales et l’a depuis modifié. Cependant, le rapport a suscité une vive polémique. Le sénateur américain Josh Hawley a lancé une enquête sur les politiques d’intelligence artificielle de Meta.
Par ailleurs, 44 procureurs généraux d’État ont adressé une lettre à plusieurs entreprises d’IA, dont Meta, pour souligner l’importance de la sécurité des enfants. « Nous sommes unanimement révoltés par cet apparent mépris pour le bien-être émotionnel des enfants », indique la lettre, dénonçant des comportements potentiellement contraires aux lois pénales.
Meta n’a pas révélé combien de ses utilisateurs passant par les chatbots IA sont mineurs ni si ces restrictions affecteront la taille de sa base d’utilisateurs IA.
