OpenAI déploie un nouveau modèle de prédiction d’âge sur ChatGPT afin d’identifier automatiquement les comptes appartenant aux moins de 18 ans et d’activer des protections spécifiques. Cette mesure répond à la surveillance accrue des régulateurs concernant l’impact des chatbots d’intelligence artificielle sur la jeunesse et aux récentes poursuites judiciaires visant l’entreprise.
Une analyse comportementale pour détecter les mineurs
Le système repose sur une combinaison de signaux liés au compte et au comportement de l’utilisateur. OpenAI explique que ChatGPT examine les modèles d’utilisation au fil du temps, l’ancienneté du compte, les plages horaires d’activité ainsi que l’âge déclaré lors de l’inscription.
L’objectif est d’appliquer des garde-fous automatiques dès qu’un profil est suspecté d’être mineur. Ces protections supplémentaires visent à limiter l’exposition à des contenus dangereux, notamment les images violentes, les défis viraux risqués, les jeux de rôle à caractère sexuel ou les représentations d’automutilation. En complément, les parents pourront personnaliser l’expérience de leur enfant via des contrôles parentaux, comme la mise en place d’heures de tranquillité.
Une vérification d’identité en cas d’erreur
Le modèle est conçu pour privilégier la prudence : si le système de ChatGPT ne parvient pas à déterminer l’âge avec certitude, il classera par défaut l’utilisateur dans la catégorie des moins de 18 ans. Cette approche implique inévitablement des erreurs de classement pour certains adultes.
Pour retrouver un accès complet en cas de faux positif, les utilisateurs devront prouver leur majorité. La procédure impose de prendre un selfie et de le soumettre à Persona, un service de vérification d’identité. Les utilisateurs pourront vérifier directement dans les paramètres si des restrictions ont été appliquées à leur compte. Mais c’est disponible dans le reste du monde à partir d’aujourd’hui.
L’entreprise promet d’améliorer la précision de son modèle au fil du temps. Le déploiement en Europe est prévu dans les semaines à venir afin de s’adapter aux exigences réglementaires régionales. Mais c’est disponible dès maintenant dans le reste du monde.
Ce déploiement intervient alors qu’OpenAI, comme d’autres géants de la tech, fait l’objet d’une enquête de la Federal Trade Commission (FTC) aux États-Unis sur les potentiels effets négatifs de l’IA sur les enfants et adolescents. La start-up est également citée dans plusieurs procès pour mort injustifiée, dont une affaire liée au suicide d’un adolescent.
![icone [the Sequence]](https://is1-ssl.mzstatic.com/image/thumb/Purple118/v4/54/ab/26/54ab269c-f144-bed8-5746-a3dd70e161c2/AppIcon-1x_U007emarketing-85-220-0-8.png/128x128bb.jpg "Application [the Sequence]")
