OpenAI confirme que son futur mode adulte pour ChatGPT proposera des conversations textuelles à caractère érotique, mais pas la génération d’images, de voix ou de vidéos. Un porte-parole de la société a décrit auprès du Wall Street Journal le contenu visé comme du contenu suggestif plutôt que de la pornographie. Le lancement, attendu ce trimestre, a été repoussé sans nouvelle date annoncée.
La fonctionnalité avait été annoncée en octobre par Sam Altman, patron d’OpenAI, qui affirmait avoir suffisamment résolu les « problèmes sérieux de santé mentale » associés au modèle pour autoriser de l’« le contenu érotique pour adultes vérifiés ». Le report tient à des défis techniques sur les garde-fous et à des tensions internes, OpenAI devant arbitrer entre lever les restrictions sur les contenus explicites et maintenir hors de portée les scénarios les plus problématiques, notamment ceux dépeignant des comportements non consentis ou impliquant des mineurs.
Un système de vérification d’âge défaillant
Le risque d’exposition des mineurs concentre une partie des inquiétudes. Le système de prédiction d’âge développé par OpenAI classifiait à un moment des mineurs comme adultes dans environ 12 % des cas. Sachant que ChatGPT attire chaque semaine environ 100 millions d’utilisateurs de moins de 18 ans, ce taux d’erreur pourrait exposer plusieurs millions de mineurs à des conversations sexualisées. OpenAI reconnaît que ses algorithmes de vérification d’âge affichent des performances comparables au reste du secteur, sans jamais pouvoir être totalement infaillibles.
Un conseil consultatif mandaté par la société d’intelligence artificielle avait alerté en janvier sur deux risques spécifiques : l’accessibilité du mode adulte aux enfants et le risque de dépendance affective envers le chatbot IA. Un membre du conseil avait utilisé la formule « sexy suicide coach » pour résumer le danger.
Se cantonner au texte n’est pas uniquement une contrainte technique. Cette approche facilite la navigation autour de réglementations comme l’Online Safety Act au Royaume-Uni qui impose une vérification d’âge pour les images pornographiques, mais pas pour le contenu érotique écrit. Elle tranche avec l’offensive visuelle de la concurrence : Elon Musk a annoncé la semaine dernière que le générateur d’images et de vidéos de Grok peut produire tout contenu « autorisé dans un film classé R », c’est-à-dire les films interdits aux moins de 17 ans aux États-Unis.
