OpenAI déploie aujourd’hui des fonctionnalités de contrôle parental visant à rendre ChatGPT plus sûr pour les adolescents. Disponibles pour tous, ces contrôles parentaux permettent aux parents de lier leur compte à celui de leur enfant pour personnaliser et sécuriser son expérience avec l’intelligence artificielle.
Un tableau de bord pour une expérience sur mesure
Le système fonctionne sur la base d’une liaison de comptes : un parent peut inviter son adolescent à connecter son compte ChatGPT au sien (ou inversement). Une fois la connexion établie, le parent accède à un tableau de bord simple depuis lequel il peut gérer plusieurs paramètres.
Par défaut, la liaison active automatiquement des protections de contenu renforcées pour l’adolescent. Celles-ci réduisent l’exposition à des contenus graphiques, des défis viraux, des jeux de rôle à caractère sexuel ou violent, et des idéaux de beauté extrêmes. Le parent a la possibilité de désactiver ces filtres, mais l’adolescent ne peut pas le faire lui-même.
En plus de ces garde-fous, les parents peuvent personnaliser davantage l’expérience en :
- Définissant des plages horaires pendant lesquelles ChatGPT est inaccessible.
- Désactivant le mode vocal, la génération d’images ou la fonction Mémoire.
- Refusant que les conversations de leur adolescent soient utilisées pour entraîner les modèles d’IA.
Une alerte en cas de détresse psychologique
Conscient que certains jeunes se tournent vers ChatGPT dans des moments difficiles, OpenAI a intégré une fonctionnalité de sécurité critique. Le système est conçu pour reconnaître les signes potentiels indiquant qu’un adolescent pourrait envisager de se faire du mal.
Si une telle situation est détectée, une petite équipe spécialement formée examine le cas. En cas de détresse aiguë, OpenAI alertera les parents par e-mail, SMS et notification push. L’entreprise travaille également sur une procédure pour contacter directement les services d’urgence en cas de menace imminente pour la vie de l’utilisateur.
Ces outils s’inscrivent dans un effort plus large d’OpenAI pour développer à terme un système capable de prédire l’âge des utilisateurs et d’appliquer automatiquement les paramètres de sécurité appropriés.
