Les protections de ChatGPT pour les adolescents sont mises en cause par Common Sense Media qui juge le service trop risqué pour les moins de 18 ans. L’organisation affirme avoir testé plus de 4 000 requêtes et avoir trouvé plusieurs failles, notamment dans les alertes liées à l’automutilation et aux troubles alimentaires.
Des garde-fous qui ne fonctionnent pas comme prévu
L’étude du Youth AI Safety Institute, rattaché à Common Sense Media, compare le comportement de ChatGPT avant et après l’arrivée de la version dédiée aux adolescents en août. Les chercheurs disent avoir constaté que certaines protections fonctionnaient, notamment le refus des jeux de rôle sexuels explicites, tandis que d’autres mesures promises aux parents échouaient dans des situations sensibles.
L’organisation affirme notamment avoir abordé des sujets liés au suicide, à l’automutilation et à la dissimulation de troubles alimentaires sans déclencher les notifications parentales attendues. Elle estime également que les protections destinées à empêcher ChatGPT de réaliser les devoirs à la place des élèves peuvent être contournées.
Common Sense Media critique aussi le ton employé par le chatbot lorsque certains adolescents le traitent comme une personne. OpenAI avait pourtant renforcé son modèle pour empêcher ChatGPT de suggérer qu’il possède des sentiments, une conscience ou une relation affective avec l’utilisateur.
OpenAI conteste l’évaluation
OpenAI rejette une partie des conclusions de l’étude. L’entreprise estime que la majorité des tests ont pu commencer et se terminer avant l’activation complète des contrôles parentaux, ce qui rendrait certaines observations inexactes. Common Sense Media maintient de son côté que ses tests ont bien porté sur des fonctionnalités disponibles au moment de l’évaluation.
Le dispositif d’OpenAI repose notamment sur une détection de l’âge qui peut placer automatiquement un compte dans l’expérience de ChatGPT pour les adolescents lorsqu’il semble appartenir à un utilisateur de moins de 18 ans. Les parents peuvent ensuite associer leur compte à celui de leur enfant, gérer certaines options et recevoir des notifications de sécurité dans des situations limitées, sans accéder à l’historique des conversations.
OpenAI affirme parallèlement que les adolescents utilisent principalement ChatGPT pour apprendre et que leur utilisation quotidienne reste inférieure à 15 minutes en moyenne. L’entreprise indique aussi que moins de 2 % des adolescents passent plus de trois heures consécutives sur le service et qu’environ la moitié des conversations qui déclenchent un rappel de pause se terminent ou s’interrompent dans les cinq minutes.
La controverse intervient alors qu’OpenAI continue d’étendre les fonctions destinées aux adolescents. L’entreprise prépare notamment College Planner, un outil destiné aux élèves de seconde à terminale pour organiser les candidatures universitaires, les échéances et les démarches liées aux aides financières.
Un commentaire pour cet article :