Le recours à la reconnaissance faciale par la police est de nouveau mis en cause aux États-Unis après la plainte d’une femme noire arrêtée en février, et libérée après une dizaine d’heures, pour un crime qu’elle n’avait pas commis.
Des problèmes avec la reconnaissance faciale
Porcha Woodruff, une habitante de l’État du Michigan, a porté plainte pour arrestation abusive contre la ville de Detroit et contre la policière chargée de l’enquête dans une affaire de vol de voiture avec violence. Identifiée comme suspecte après une recherche avec un logiciel de reconnaissance faciale, elle a passé environ 11 heures debout ou assise sur un banc en béton au commissariat, alors qu’elle était enceinte de huit mois, souligne la plainte. 15 jours plus tard, en mars, un tribunal a rejeté les accusations contre elle faute de preuves.
« Étant donnés les défauts bien connus des technologies de reconnaissance faciale, qui ont tendance à se tromper, la police de Detroit a enfreint les droits de la plaignante en échouant à la protéger contre des erreurs prévisibles et leurs conséquences », déclarent ses avocats dans la plainte.
Cette technologie est décriée depuis des années par les défenseurs des droits humains. Ils dénoncent notamment le fait que les algorithmes, entraînés à partir de populations majoritairement blanches, font davantage d’erreurs sur les personnes noires. Dans le cas de Porcha Woodruff, la police s’est servie d’images enregistrées par une caméra de vidéosurveillance dans une station-service.
« Vol de voiture à main armée ? Vous plaisantez ? Vous voyez que je suis enceinte de huit mois? », a-t-elle lancé aux policiers qui se sont présentés chez elle avec un mandat d’arrêt. Malgré les protestations de ses deux enfants, de son fiancé et de sa mère contactée par téléphone, elle « a été emmenée, fouillée et menottée devant sa famille et ses voisins », relate la plainte.
La plainte reproche à la police de ne pas avoir mis en place des règles appropriées pour l’utilisation de cette technologie et de ne pas avoir formé ses employés de manière adéquate, ce qui « révèle une indifférence délibérée à l’égard du préjudice potentiel subi par les personnes identifiées de manière erronée ».
Aux États-Unis, face à la pression d’associations, de grands groupes comme Amazon, Microsoft, IBM et Google ont arrêté, au moins temporairement, de vendre leurs logiciels de reconnaissance faciale à la police.
