La dystopie est à nos portes : dans un article tout juste publié, Forbes détaille les efforts d’Amazon pour promouvoir parfois agressivement de multiples services de sécurité (souvent de partenaires) qui transitent le plus souvent via Amazon Web Services (AWS).L’entreprise aurait ainsi noué des alliances avec des fournisseurs tech pour convaincre les départements de police de s’équiper avec des technologies de pointe en matière de sécurité : caméras de plaques d’immatriculation via Flock Safety, détection d’armes via ZeroEyes, applications de centre d’analyse en temps réel (C3 AI, Revir Technologies), ou encore génération automatisée de rapports policiers via Abel Police et Mark43.
Le marché visé est colossal — évalué à 11 milliards de dollars —, et les communications internes montrent qu’Amazon multiplie les démarchages pour décrocher des parts de ce secteur.« Il est consternant de voir l’une des plus grandes et des plus puissantes entreprises promouvoir ainsi une technologie de surveillance autoritaire. » souligne Jay Stanley de l’ACLU, dénonçant le rôle de l’entreprise comme « sage-femme » de technologies policières boostées par l’IA.
Des interrogations sur la vie privée et les limites du contrôle
La stratégie d’Amazon auprès ds forces de l’ordre et services de sécurité soulève de sérieuses préoccupations : comment prévenir les abus et garantir la fiabilité des algorithmes tout en protégeant les droits fondamentaux des citoyens ? AWS met en avant son service « Cloud for Justice and Public Safety » (trad : le Cloud pour la justice et la sécurité publique), et promeut la modernisation des systèmes policiers par le cloud. Et ça marche : des forces de l’ordre, comme la police du comté de Bedfordshire au Royaume-Uni, témoignent déjà de gains en efficacité grâce à des outils cloud déployés avec AWS. Attention toutefois au retour de bâton, à l’instar de l’énorme polémique qui avait suivi l’annonce d’Amazon Rekognition, un outil d’IA utilisé dans des contextes de surveillance policière, qui avait fait bondir les associations de défense des libertés individuelles.
En misant sur la convergence entre cloud, intelligence artificielle et « application de la loi » (sous un angle très sécuritaire), Amazon prend ici un pari à haut risque — à la fois technique, réputationnel et éthique. La manière dont ces technologies seront encadrées, utilisées et régulées dans les prochaines années pourrait redéfinir l’équilibre entre sécurité et respect des droits civils… si tant est bien sûr qu’il y ait une réelle régulation.
Mise à jour du 03/10 : Amazon nous a gentiment contacté pour corriger certaines inexactitudes de l’article ci-dessus. Selon Amazon donc, Forbes n’aurait pas explicitement écrit qu’Amazon faisait la promotion d’AWS comme une plateforme de choix pour les services de sécurité (c’est bien pour cela que nous n’avons pas mis cette phrase entre parenthèse par ailleurs). Amazon précise aussi les technologies concernées et déployées sont avant tout celles de partenaires d’Amazon et non pas d’Amazon lui-même. Amazon nous précise en outre qu’ « Amazon Rekognition n’est pas un outil de surveillance, c’est un service d’analyse d’images et de vidéos qui possède de nombreuses fonctionnalités d’analyse et de comparaison non faciales ». Ceci étant, nous écrivons précisément qu’Amazon est « un outil d’IA utilisé dans des contextes de surveillance policière », ce qui est bien différent que de dire que l’outil lui-même est un outil de surveillance.
Enfin, concernant le contenu des emails dévoilés par Forbes, Amazon précise que « Ces emails reflètent notre volonté de résoudre les défis de nos clients, comme les aider à détecter des objets potentiellement dangereux dans des séquences vidéo afin que les premiers intervenants comprennent la situation avant leur arrivée. Nous dialoguons constamment avec nos clients de tous secteurs d’activité afin de comprendre leurs enjeux spécifiques et de leur expliquer comment les technologies les plus récentes peuvent contribuer à l’atteinte de leurs objectifs commerciaux. »
