Facebook passe par de l’intelligence artificielle pour détecter les statuts et vidéos suicidaires des utilisateurs

Facebook annonce le déploiement d’un nouvel outil qui se repose sur de l’intelligence artificielle. L’outil en question a pour vocation de détecter les statuts et vidéos en direct suicidaires avant qu’ils ne soient rapportés par les utilisateurs. Le réseau social veut ainsi aider les personnes qui pensent à se suicider pour éviter qu’elles passent à l’acte.

Que va-t-il se passer si un statut ou une vidéo en direct suicidaire est détecté ? Facebook va afficher un message sur l’écran de l’utilisateur lui indiquant qu’il veut proposer son aide. Il va alors offrir plusieurs possibilités, dont l’appel à une aide d’assistance, des conseils ou parler directement à un ami.

Facebook annonce que cette fonctionnalité est déployée dans plusieurs pays, mais le réseau social ne donne pas de liste. Il précise cependant que les utilisateurs dans les pays de l’Union européenne ne vont pas profiter de ce système d’intelligence artificielle parce qu’il y a des lois de confidentialité et que celles-ci peuvent poser un problème au vu de la technologie utilisée.

Il faut savoir que des hommes et des femmes ont été formés pour réagir aux publications suicidaires et sont prêts à proposer leur aide en cas de besoin. Facebook ajoute avoir travaillé avec plusieurs organisations pour connaître les signes qui évoquent le suicide et ainsi créer son outil.