Le système de recherche de Pinterest est certainement l’un de ceux qui sont le plus encensés par ses utilisateurs. Et pour cause, une modération automatisée permet des résultats de recherche personnalisés, qui cachent ou contrent certaines images ou autres contenus qui ne seraient pas appropriés. Mais il semblerait que ce système arrive à ses limites : d’après OneZero, de nombreux cas existent où ces méthodes n’ont pas réussi à arrêter du contenu pour le moins abusif. On parle par exemple de photos sexualisées de jeunes filles, mais aussi de contenu raciste ou de thèses et autres théories du complot.
Le souci viendrait apparemment d’une faille bien précise permettant de passer outre les processus de recherche standard : s’il est bien difficile de passer les différents filtres mis en place sur le site ou l’application, effectuer des recherches précises via Google permettrait de contourner cette modération, et ainsi d’accéder à du contenu inapproprié sans que ce dernier ne soit bloqué. Un porte-parole a confirmé que du contenu violant la politique du site « apparaît parfois, » même quand on demande au compte qui l’a mis en ligne de le supprimer, et non de le cacher. Mais la firme reste satisfaite de son travail, et ne compte pas changer son système particulier de sitôt.
