Twitter veut savoir pourquoi son algorithme photo privilégie les personnes blanches

Quand un utilisateur de Twitter publie une photo, le réseau social fait le nécessaire pour la recadrer et afficher un aperçu. Il faut cliquer sur l’image pour la voir en grand. Le recadrage est fait automatiquement par Twitter et il se trouve que l’algorithme semble privilégier les personnes blanches.

Plusieurs utilisateurs ont partagé des photos verticales avec une personne blanche et une personne noire en haut et en bas. Les deux photos sont séparées par un grand bandeau blanc. Twitter dispose d’un système qui sait détecter les visages et c’est pour cette raison que les aperçus affichent généralement les têtes quand il y a une personne. Ici, l’algorithme choisit quasiment tout le temps des personnes blanches. La même chose a lieu quand l’emplacement des photos de la personne blanche et de la personne noire est inversé : le recadrage se fait toujours sur la personne blanche.

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

Le recadrage fait par Twitter

Les deux images dans leur taille d’origine, sans recadrage

Liz Kelley, qui fait partie de l’équipe de communication de Twitter, a réagi au vu des nombreuses images partagées par les internautes. Elle déclare : « Nous avons effectué des tests pour détecter les partis pris avant de mettre en place la fonction et nous n’avons pas trouvé de preuves de préjugés raciaux ou sexistes dans nos tests, mais il est clair que nous avons d’autres analyses à faire. Nous proposerons notre travail en open source pour que d’autres puissent l’examiner et reproduire le problème ».

Il n’est pour l’instant pas précisé quand tout le monde pourra accéder à l’algorithme de Twitter et faire ses propres tests.