KultureGeek Hors-Sujet La société Character.AI poursuivie en justice après le suicide d’un ado obsédé par un chatbot

Hors-Sujet

La société Character.AI poursuivie en justice après le suicide d’un ado obsédé par un chatbot

23 Oct. 2024 • 15:35

Une tragédie de ce type semblait malheureusement inévitable : la startup américaine Character.AI est poursuivie en justice après le suicide d’un adolescent de 14 ans littéralement obsédé par un chatbot de cette société. Si l’on en croit les informations fournies par le New York Times, Sewell Setzer III, un collégien d’Orlando, aurait fini par nouer une relation forte avec le Chatbot Dany de la société Character.AI. L’ado se serait livré au Chatbot au point de perdre prise avec le réel et de finir par confier ses pensées suicidaires, des confidences qui n’auraient pas été suivies de réponses appropriées de la part de l’IA (comme le fait de rediriger le garçon sur un site de lutte contre le suicide, ou vers un numéro d’urgence dédié à ce type de mal-être extrême).

Intelligence Artificielle

Suite à la plainte de la famille du jeune homme, Character.AI a annoncé la mise en œuvre prochaine de nouvelles mesures de sécurité destinées à faire face à ce type de situation. La perte de repères liée aux IA reste encore un champ d’étude sous exploité, alors même que l’on sait déjà, études cette fois à l’appui, qu’un temps prolongé sur les réseaux sociaux affecte durablement et négativement les adolescents et les jeunes en général.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles