La controverse autour du partenariat entre OpenAI et le département américain de la Défense continue de secouer le leader de l’IA. Caitlin Kalinowski, qui dirigeait les initiatives robotique et hardware au sein du laboratoire, vient en effet d’annoncer sa démission, quelques jours seulement après la signature de l’accord avec le Pentagone. Ce départ intervient dans un contexte déjà tendu, plusieurs voix internes (et externes) interrogeant les limites éthiques de l’IA lorsque cette dernière bascule vers des usages militaires.
Une rupture motivée par des lignes rouges
Sur les réseaux sociaux, Caitlin Kalinowski a justifié sa décision en évoquant des garde-fous insuffisamment débattus. « L’IA joue un rôle important dans la sécurité nationale. Mais la surveillance des citoyens américains sans contrôle judiciaire et l’autonomie létale sans autorisation humaine sont des limites qui auraient mérité une réflexion plus approfondie », a-t-elle écrit. L’ex-dirigeante a présenté son départ comme une « question de principe », tout en disant conserver du respect pour Sam Altman et pour le travail des équipes.
Un accord Défense sous pression, au cœur d’un bras de fer
Pour rappel, le contrat signé par OpenAI prévoit l’intégration de modèles d’IA dans des environnements sensibles, notamment des infrastructures classifiées. OpenAI affirme de son côté que l’accord comporte des restrictions et qu’il n’autorise expressément ni la surveillance domestique ni l’usage pour des armes autonomes… mais sans que ces points ne soient inscrits noir sur blanc dans l’accord avec le Département américain de la Défense.
Un coup d’arrêt potentiel pour les ambitions “IA incarnée”
Robotique, collecte de données et edge AI
Le départ de Kalinowski tombe au moment où OpenAI accélère le pas sur la robotique, avec des laboratoires dédiés à l’entraînement de systèmes capables d’agir dans le monde réel, via de la téléopération et la collecte de données à grande échelle. La feuille de route du groupe vise des compétences concrètes (manipulation, perception, gestes) avant d’éventuels projets plus « généralistes ».
Reste à voir comment OpenAI réorganisera ce pôle extrêmement stratégique après le départ de sa dirigeante.
Un commentaire pour cet article :