OpenAI, par la voix de son CEO Sam Altman, révélé de nouvelles données mettant en lumière un phénomène particulièrement préoccupant : une part non négligeable des utilisateurs de ChatGPT évoquent des troubles psychologiques dans leurs échanges avec l’IA. Selon OpenAI, environ 0,15 % des utilisateurs hebdomadaires, soit tout de même plus d’un million de personnes par semaine, ont des conversations comportant des idées suicidaires ou des indices d’une grande détresse émotionnelle.
OpenAI ajoute qu’un nombre similaire d’utilisateurs développent une forme d’attachement émotionnel excessif envers le chatbot, tandis que plusieurs centaines de milliers présentent carrément des signes de psychose. Ces cas demeurent rares reportés au nombre global d’utilisateurs de l’IA, mais la nature et l’ampleur des comportements rapportés inquiète les spécialistes.
Des mesures de sécurité renforcées avec GPT-5
Face à ces tristes constats, OpenAI affirme avoir collaboré avec plus de 170 experts en santé mentale pour améliorer la manière dont ChatGPT répond à ces situations sensibles. D’après l’entreprise, le modèle GPT-5 produit désormais des réponses jugées appropriées dans 91 % des cas, contre 77 % pour la version précédente. La société met également en place de nouveaux outils de détection automatique pour identifier les jeunes utilisateurs et renforcer les contrôles parentaux. Malgré ces avancées, les risques demeurent.
Les affaires judiciaires en cours et les avertissements de plusieurs autorités américaines rappellent à quel point la gestion de la santé mentale dans l’IA générative est devenue un enjeu crucial pour OpenAI, qui cherche désormais à donner des garants de bonne conduite afin de s’éviter de futures poursuites judiciaires.
