Nvidia lance l’Open Agent Safety Platform pour surveiller et contenir les agents d’intelligence artificielle capables d’agir de manière autonome. Son composant matériel Sentry peut selon Nvidia mettre en quarantaine un agent IA qui sort de son périmètre de sécurité en quelques millisecondes.
L’Open Agent Safety Platform combine deux éléments. OpenShell, disponible en open source, crée un environnement d’exécution sécurisé et définit les ressources auxquelles un agent IA peut accéder, notamment les fichiers, les réseaux, les identifiants, les API et les différents outils nécessaires à sa mission.
Nvidia ajoute Sentry comme une couche de surveillance indépendante. Ce garde-fou fonctionne sur les processeurs d’infrastructure BlueField-4 DPU, séparément de l’environnement dans lequel l’agent exécute ses tâches, afin de pouvoir intervenir même lorsque l’agent tente de contourner les protections logicielles.
Le système surveille notamment les requêtes et les réponses des agents, vérifie leur identité et applique des politiques d’accès aux données, aux outils, aux API et aux services. Si un agent tente de franchir les limites définies par l’administrateur, Sentry peut l’isoler et l’arrêter en quelques millisecondes, selon Nvidia.
Cette architecture répond directement à une faiblesse des protections intégrées aux applications d’IA : un agent qui cherche à contourner ses propres restrictions ne peut pas constituer l’unique mécanisme chargé de surveiller son comportement. Nvidia place donc une partie du contrôle à l’extérieur de l’agent et de son environnement logiciel.
Plus de 100 acteurs rejoignent le projet
Nvidia présente sa plateforme comme un projet ouvert destiné à couvrir l’ensemble de la chaîne technique, du logiciel aux processeurs, jusqu’aux systèmes robotiques. OpenShell fonctionne sur les processeurs Nvidia Vera, mais son code peut également être adapté aux plateformes Arm et Intel.
Plus de 100 organisations travaillent déjà avec les technologies de la plateforme. Anthropic, Microsoft, Cisco, CrowdStrike, Dell, HPE, Hugging Face, IBM, JPMorganChase, Palo Alto Networks, Perplexity, Salesforce, SAP, Scale AI, ServiceNow et SpaceXAI figurent notamment parmi les entreprises citées par Nvidia.
Anthropic collabore notamment avec Nvidia pour intégrer OpenShell et BlueField à ses agents Claude gérés. Salesforce travaille également à l’intégration d’OpenShell dans ses outils, tandis que Scale AI utilise le design de référence pour ses systèmes destinés aux entreprises et aux administrations.
Les composants logiciels de l’Open Agent Safety Platform sont disponibles dès maintenant via les ressources développeurs de Nvidia et GitHub. Sentry reste pour sa part un design de référence construit autour des BlueField-4 DPU et non un produit autonome commercialisé sous cette forme.
Un commentaire pour cet article :