Une tragédie de ce type semblait malheureusement inévitable : la startup américaine Character.AI est poursuivie en justice après le suicide d’un adolescent de 14 ans littéralement obsédé par un chatbot de cette société. Si l’on en croit les informations fournies par le New York Times, Sewell Setzer III, un collégien d’Orlando, aurait fini par nouer une relation forte avec le Chatbot Dany de la société Character.AI. L’ado se serait livré au Chatbot au point de perdre prise avec le réel et de finir par confier ses pensées suicidaires, des confidences qui n’auraient pas été suivies de réponses appropriées de la part de l’IA (comme le fait de rediriger le garçon sur un site de lutte contre le suicide, ou vers un numéro d’urgence dédié à ce type de mal-être extrême).
Suite à la plainte de la famille du jeune homme, Character.AI a annoncé la mise en œuvre prochaine de nouvelles mesures de sécurité destinées à faire face à ce type de situation. La perte de repères liée aux IA reste encore un champ d’étude sous exploité, alors même que l’on sait déjà, études cette fois à l’appui, qu’un temps prolongé sur les réseaux sociaux affecte durablement et négativement les adolescents et les jeunes en général.
