C’était inéluctable ; OpenAI prévoit de retirer certaines limites imposées à ChatGPT : dès le mois de décembre prochain, les utilisateurs adultes vérifiés pourront accéder à du contenu mature, y compris des conversations érotiques (si leurs paramètres le permettent). Le CEO Sam Altman rappelle que la plateforme avait été rendue « assez restrictive » pour protéger la santé mentale des personnes vulnérables, mais que ces contraintes rendaient aussi le service « moins utile/plaisant » pour ceux, majoritaires, qui n’étaient pas concernés par ces risques.
Sécurité renforcée : vérification d’âge et principes de modération
La baisse des restrictions s’appuie sur l’introduction d’un système de détection d’âge renforcé et d’outils de surveillance des comportements à risque. Altman confirme qu’OpenAI dispose désormais de nouvelles méthodes pour « atténuer les problèmes sérieux de santé mentale », ce qui permettrait de détendre les règles « dans la plupart des cas ». Le chatbot pourra aussi être plus « humain » dans son ton ou sa personnalité, avec plus d’emojis, ou carrément une attitude de compagnon, mais « seulement si l’utilisateur le veut », l’objectif étant de « traiter les utilisateurs adultes comme des adultes ».
Sam Altman fantasme depuis la création de ChatGPT sur un chatbot semblable à « Her », l’IA du film de Spike Jonze, un fantasme sur le point de devenir réalité
Réactions, enjeux et débat public
Cette annonce a évidemment suscité des avis partagés, certains craignant que les dispositifs de vérification d’âge soient contournés et exposent in fine des mineurs à du contenu inapproprié (notons qu’avec ce type d’argument, il serait logique d’interdire TOUT contenu pour adultes sur internet). D’autres voix saluent au contraire ce changement comme une étape vers une plus grande autonomie et une plus grande liberté pour les utilisateurs adultes. Cette annonce marque en tout cas un tournant dans la politique de modération d’OpenAI. À mesure que l’entreprise ouvre le champ des usages pour ses utilisateurs adultes, le défi est désormais de garantir que les protections restent efficaces pour les plus vulnérables, sans freiner la créativité ni l’expérience utilisateur.
4 commentaires pour cet article :