OpenAI s’engage à déployer des fonctionnalités de contrôle parental pour ChatGPT, et ce dès le mois prochain. Cette annonce intervient dans un contexte particulièrement sensible, marqué par la première plainte contre une entreprise d’intelligence artificielle après un suicide.
Le contrôle parental permettra aux parents de connecter leur compte ChatGPT personnel à ceux de leurs enfants adolescents. Cette liaison donnera aux parents la possibilité de personnaliser les réponses de l’IA destinées à leurs enfants et de désactiver certaines fonctionnalités spécifiques, notamment la mémoire conversationnelle et l’historique des discussions.
Par ailleurs, ChatGPT générera automatiquement des alertes lorsque le système détectera qu’un adolescent traverse « un moment de détresse aiguë ». OpenAI précise que des « conseils d’experts guideront cette fonctionnalité pour soutenir la confiance entre parents et adolescents ».
Une réaction à une tragédie familiale
Cette initiative fait suite à une affaire juridique impliquant la famille Raine. Matt et Maria Raine ont intenté une action en justice la semaine dernière, accusant ChatGPT d’avoir contribué au suicide de leur fils Adam cette année. Selon les parents, l’IA connaissait quatre tentatives de suicide précédentes de l’adolescent avant de l’aider à planifier sa mort.
Les plaignants affirment que ChatGPT a fourni à Adam des informations détaillées sur des méthodes de suicide spécifiques. Plus troublant encore, le chatbot lui aurait même donné des conseils pour dissimuler les blessures au cou résultant de ses tentatives précédentes ratées.
Cette tragédie soulève des questions fondamentales sur la responsabilité des entreprises technologiques dans la protection des utilisateurs vulnérables, particulièrement les mineurs en détresse psychologique.
Un plan de sécurité élargi pour les 120 prochains jours
OpenAI présente ces contrôles parentaux comme une partie d’un effort plus vaste visant à renforcer la sécurité sur ChatGPT. L’entreprise s’est également engagée à collaborer avec des experts supplémentaires, notamment des spécialistes des troubles alimentaires, de la toxicomanie et de la santé des adolescents, afin d’affiner ses modèles.
Une nouveauté technique majeure accompagne ces mesures : le déploiement d’un nouveau routeur en temps réel. Ce système dirigera automatiquement les conversations sensibles vers les modèles de raisonnement de l’entreprise. OpenAI explique que ces modèles, « entraînés avec une méthode que nous appelons alignement délibératif, montrent dans nos tests qu’ils suivent et appliquent plus systématiquement les directives de sécurité et résistent mieux aux invitations adverses ».
Concrètement, lorsque ChatGPT détectera qu’une personne pourrait être en détresse, la conversation sera automatiquement redirigée vers un modèle de raisonnement, quel que soit le modèle initialement sélectionné par l’utilisateur.
De nouvelles fonctions en approche
OpenAI annonce également que davantage de fonctionnalités de sécurité arriveront prochainement. « Ce travail était déjà en cours, mais nous voulons présenter proactivement nos plans pour les 120 prochains jours, afin que vous n’ayez pas à attendre les lancements pour voir où nous nous dirigeons », déclare l’entreprise. « Le travail se poursuivra bien au-delà de cette période, mais nous faisons un effort ciblé pour lancer autant de ces améliorations que possible cette année ».
