Plus de 600 employés de Google ont cosigné une lettre, implorant leur patron, Sundar Pichai, de mettre un terme aux négociations en cours avec le département de la Défense des États-Unis. Cette mobilisation interne vise à empêcher le déploiement de Gemini, le modèle d’intelligence artificielle de l’entreprise, dans le cadre d’opérations militaires classifiées.
Parmi les signataires, la contestation prend racine au plus haut niveau de l’organigramme. Le document regroupe plus d’une vingtaine de directeurs, directeurs principaux et vice-présidents, majoritairement issus des divisions stratégiques de Google Cloud et du laboratoire de recherche DeepMind. « En tant que personnes travaillant sur l’IA, nous savons que ces systèmes peuvent centraliser le pouvoir et qu’ils font des erreurs », ont notamment averti les chercheurs dans leur missive.
Les garde-fous contractuels jugés inapplicables
Au cœur de ce bras de fer se trouve la question du contrôle humain sur l’algorithme. Pour rassurer ses équipes, la direction de Google a proposé au Pentagone d’inclure des clauses contractuelles strictes, interdisant formellement l’utilisation de Gemini pour la surveillance de masse domestique ou l’élaboration de systèmes d’armes létales autonomes. Cependant, l’armée américaine fait pression pour imposer une formulation juridique plus large autorisant « toutes les utilisations légales », justifiant ce besoin par une nécessité de flexibilité opérationnelle.
Pour les organisateurs de la pétition, ces promesses de sécurité sont une illusion technique. Ils soulignent que la nature même des charges de travail classifiées rend toute vérification externe impossible, d’autant plus que la politique actuelle du Pentagone interdit formellement aux entreprises privées d’imposer des contrôles sur ses systèmes d’intelligence artificielle une fois déployés.
Cette crise interne ravive le spectre du célèbre Projet Maven de 2018. À l’époque, une mobilisation similaire de plusieurs centaines de salariés avait contraint Google à ne pas renouveler un contrat militaire portant sur l’analyse d’images de drones par ordinateur, forçant l’entreprise à rédiger sa propre charte éthique sur l’intelligence artificielle. La grogne actuelle chez Google s’inscrit dans un mouvement plus large au sein de la Silicon Valley, survenant quelques mois seulement après que la start-up Anthropic a vu son contrat rompu par le Pentagone pour avoir refusé de lever ses propres restrictions éthiques. Le Pentagone a finalement choisi OpenAI.
