Il y a pratiquement un an, la journaliste du Guardian Olivia Solon avait publié sur Instagram un message la menaçant de mort et de viol. Ce qui aurait pu n’être qu’une preuve de plus de la sympathie naturelle qu’inspire l’anonymat permis par internet est devenu bien plus que ça, puisque la publication en question a été reprise par Instagram pour une campagne de publicité sur Facebook.
« Je vais te violer avant de te tuer, sale p*te », peut-on ainsi lire sur le charmant message. Et s’il peut paraître étrange qu’un tel message ait été choisi, ce n’est au final pas bien surprenant. L’affaire intervient en effet dans une période critique pour les réseaux sociaux, et est une preuve supplémentaire que leurs algorithmes mettent en avant du contenu extrême et offensant. Le moment est bien choisi, puisque Facebook et consorts traversent une crise éthique et morale, le nombre de clics générés primant le fond de ces contenus.
Certains journalistes ont fait le test, qui était tristement concluant : ils ont réussi à payer pour créer du contenu publicitaire mettant en avant des catégories automatiquement créées par les sites via des mot-clés employés par les utilisateurs, comme « Comment brûler des juifs ». Sheryl Sandberg, chief operating officer chez Facebook, a immédiatement réagi en postant un mea culpa, affirmant que la société allait changer sa politique, notamment en désactivant le système de ciblage qui créait ces catégories. Désormais, tout sera contrôlé par une équipe d’humains plutôt que par des algorithmes.
