Instagram utilise de l’intelligence artificielle pour lutter contre le harcèlement

Instagram propose déjà quelques initiatives pour lutter contre le harcèlement et continue justement sur sa lancée. La plateforme annonce aujourd’hui passer par de l’intelligence artificielle pour détecter du harcèlement sur les photos postées par ses utilisateurs.

Bien que la majorité des photos partagées sur Instagram soient positives, il peut arriver qu’une photo soit partagée dans le but d’importuner. C’est pour cette raison qu’Instagram met à profit la technologie du machine learning pour détecter de façon proactive les cas d’intimidation sur les photos et dans les légendes afin que les équipes puissent les identifier et les examiner. Selon le réseau social, ce changement sera une aide cruciale dans la lutte contre les contenus inappropriés. Il ajoute que cela aidera également à protéger les jeunes utilisateurs, essentiellement parce qu’ils sont les premiers concernés par le harcèlement.

Dans la foulée, Instagram étend son réglage pour filtrer les commentaires. Jusqu’à présent, il détectait et masquait les commentaires malveillants dans le fil d’actualité, la partie Explorer et sur le profil. Aujourd’hui, il devient disponible sur les vidéos en direct.

Enfin, Instagram met en place un nouveau filtre à utiliser dans les stories. Le but est de promouvoir la bienveillance. Il est proposé dès maintenant à l’ensemble des utilisateurs.