Google lance un outil avec de l’intelligence artificielle pour lutter contre les « mauvais » commentaires

Étant cachées derrière un écran, beaucoup de personnes se permettent de poster des commentaires déplacés, racistes et plus encore. Google a envie de lutter contre ce type de commentaires et présente son outil : Perspective.

Perspective est présenté comme un outil basé sur l’intelligence artificielle qui aidera les médias à modérer automatiquement les commentaires en ligne. Il se repose sur une API proposée gratuitement. Elle permettra aux éditeurs de créer des programmes qui noteront la « toxicité » des messages envoyés sur leurs forums/sites et de régler à leur guise le seuil toléré avant publication. « Perspective » est testé avec plusieurs éditeurs, dont le New York Times, The Guardian et Wikipédia avec un apprentissage automatique (machine learning) à partir des messages jugés haineux ou hors sujet par des modérateurs humains.

Le but est de faciliter la tâche des équipes de modérateurs, souvent débordées par le flot des commentaires haineux qui empêchent les discussions, ce qui a poussé de nombreux sites à fermer leurs pages de commentaires.

Sur son blog, Google note « Les médias veulent encourager les discussions sur leurs contenus, mais trier les millions de commentaires pour repérer ceux qui les trollent leur coûte beaucoup de temps, de travail et d’argent ». À voir si l’outil sera efficace.