Une tragédie de ce type semblait malheureusement inévitable : la startup américaine Character.AI est poursuivie en justice après le suicide d’un adolescent de 14 ans littéralement obsédé par un chatbot de cette société. Si l’on en croit les informations fournies par le New York Times, Sewell Setzer III, un collégien d’Orlando, aurait fini par nouer une relation forte avec le Chatbot Dany de la société Character.AI. L’ado se serait livré au Chatbot au point de perdre prise avec le réel et de finir par confier ses pensées suicidaires, des confidences qui n’auraient pas été suivies de réponses appropriées de la part de l’IA (comme le fait de rediriger le garçon sur un site de lutte contre le suicide, ou vers un numéro d’urgence dédié à ce type de mal-être extrême).
Suite à la plainte de la famille du jeune homme, Character.AI a annoncé la mise en œuvre prochaine de nouvelles mesures de sécurité destinées à faire face à ce type de situation. La perte de repères liée aux IA reste encore un champ d’étude sous exploité, alors même que l’on sait déjà, études cette fois à l’appui, qu’un temps prolongé sur les réseaux sociaux affecte durablement et négativement les adolescents et les jeunes en général.
![image produit Apple Watch Series 11 [GPS + Cellular 42 mm] Montre connectée avec boîtier Noir de Jais et Bracelet Sport Noir. Score de Sommeil, Moniteur d’activité, Suivi de la santé, écran Toujours activé](https://kulturegeek.fr/comparateur/img_products/11122284/watch-series-11-gps-plus-cellular-42mm-boitier-en-aluminium-noir-de-jais-avec-bracelet-sport-noir-sm-4899_thumb.jpg)
![image produit Apple Watch Series 11 [GPS + Cellular 42 mm] Montre connectée avec boîtier Naturel et Bracelet Milanais Naturel. Score de Sommeil, Moniteur d’activité, Suivi de la santé, écran Toujours activé](https://kulturegeek.fr/comparateur/img_products/11121875/apple-watch-series-11-gps-plus-cellular-42mm-boitier-natural-titanium-bracelet-natural-milanese-loop-11818_thumb.jpg)
![image produit Apple Watch Series 11 [GPS + Cellular 42 mm] Montre connectée avec boîtier Naturel et Bracelet Sport Gris minéral. Score de Sommeil, Moniteur d’activité, Suivi de la santé, écran Toujours activé](https://kulturegeek.fr/comparateur/img_products/11121873/apple-watch-series-11-gps-plus-cellular-42mm-boitier-natural-titanium-bracelet-stone-grey-sport-band-ml-3443_thumb.jpg)
