Résumé de l’annonce :
- NVIDIA Open Agent Safety Platform s’appuie sur le logiciel open source NVIDIA OpenShell et sur la conception de système de référence NVIDIA Sentry, qui permettent une gouvernance et un contrôle full stack, des logiciels jusqu’au matériel, aux systèmes de calcul et aux systèmes robotiques sur lesquels s’exécutent les agents.
- Le logiciel OpenShell fournit une limite d’exécution sécurisée qui trace toutes les actions et applique les politiques pendant que les agents s’exécutent sur les processeurs NVIDIA Vera. En tant que logiciel open source, OpenShell peut être étendu pour fonctionner avec des plateformes de calcul tierces, notamment celles d’ Arm et Intel.
- Sentry ajoute un mécanisme de surveillance hors bande qui s’exécute sur les DPU NVIDIA BlueField-4 pour contrôler en continu le comportement des agents. Sentry peut mettre en quarantaine les agents qui tentent de sortir de leurs limites en quelques millisecondes.
- Des leaders de tout l’écosystème de l’IA s’associent à NVIDIA pour renforcer la sécurité de l’IA dans tous les secteurs, sur l’ensemble de la pile d’infrastructure, de logiciels, de modèles et de robotique — notamment Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow et SpaceXAI.
NVIDIA a annoncé aujourd’hui NVIDIA Open Agent Safety Platform*, une plateforme logicielle ouverte et une conception de système de référence qui renforcent la sécurité de l’IA, de la phase de test des agents jusqu’à leur déploiement, avec une gouvernance et un contrôle full-stack couvrant les logiciels ainsi que le matériel, les ressources de calcul et les systèmes robotiques sur lesquels s’exécutent les agents.
De récents incidents de sécurité ont souligné la nécessité de doter les organisations d’outils ouverts et personnalisables, qui renforcent le contrôle exercé sur les agents à exécution prolongée. Dans tous ces incidents, le schéma est le même : l’agent a contourné les contrôles de sécurité au niveau de la couche applicative pour accomplir la tâche qui lui avait été confiée.
« L’extraordinaire potentiel de l’IA pour la société ne se concrétisera que si nous résolvons la question de la sûreté de l’IA », a déclaré Jensen Huang, fondateur et PDG de NVIDIA. « À mesure que nous repoussons les frontières des capacités de l’IA, nous devons accélérer les avancées en matière de sûretéé de l’IA. La sûreté et la sécurité exigent une ingénierie full-stack. NVIDIA Open Agent Safety Platform réunit des acteurs de l’industrie, des chercheurs et des organismes du secteur public afin de partager les bonnes pratiques, d’harmoniser les méthodes d’évaluation et de favoriser la coopération internationale. Ensemble, nous pouvons élever le niveau d’exigence en matière de sûreté de l’IA à l’échelle mondiale. »
Open Agent Safety Platform étend le contrôle à l’ensemble de la pile des agents
NVIDIA Open Agent Safety Platform permet une gouvernance et un contrôle full-stack couvrant les logiciels qui exécutent les agents, les couches matérielles et de calcul qui alimentent leur travail, ainsi que les systèmes robotiques qui accomplissent des tâches dans le monde physique. Les organisations peuvent déployer les éléments de NVIDIA Open Agent Safety Platform en fonction de leurs besoins spécifiques.
Elle comprend NVIDIA OpenShell™*, un logiciel d’exécution sécurisé qui fixe des limites aux agents exécutés sur des CPU. À mesure que les agents prennent en charge davantage de tâches sur un nombre croissant de systèmes, les entreprises ont besoin d’une limite applicable en dehors du modèle et de l’environnement d’exécution des agents. Désormais largement disponible, OpenShell* fournit une limite d’exécution sécurisée pour contrôler la manière dont les agents d’IA autonomes exécutent des tâches sur des modèles ouverts et propriétaires.
OpenShell assure cette protection avec une surcharge minimale sur NVIDIA Vera, le premier CPU spécialement conçu pour l’IA agentique. Ensemble, OpenShell et Vera permettent aux agents de fonctionner en toute sécurité tout en accomplissant leurs tâches le plus rapidement possible. En tant que logiciel open source, OpenShell peut également être étendu à des plateformes de calcul tierces, notamment celles d’ Arm* et d’ Intel.
La conception de système de référence NVIDIA Open Agent Safety Platform intègre NVIDIA Sentry*, un dispositif de surveillance hors bande qui s’exécute sur les NVIDIA BlueField®-4 DPU pour surveiller en continu le comportement des agents. Sentry assure une application de la sécurité au niveau du silicium : ainsi, si un agent d’IA tente de sortir de ses limites logicielles, Sentry le met en quarantaine et l’arrête en quelques millisecondes.
Exécuté sur les DPU BlueField-4, Sentry surveille en continu l’activité des agents et applique les politiques de sécurité de manière indépendante, directement dans le silicium. Il combine la détection des menaces, la gouvernance et le contrôle des agents basés sur le matériel, ainsi que la protection de l’accès aux données, depuis un domaine de confiance isolé et hors bande, réactif en temps réel et invisible pour les agents et les attaquants.
Sentry repose sur NVIDIA DOCA™, qui fournit les capacités programmables utilisées par Sentry pour inspecter les requêtes et les réponses des agents, fournir une télémétrie attestée, vérifier l’identité des agents et appliquer des politiques d’accès granulaires de type zero trust aux données, aux outils, aux interfaces de programmation d’applications et aux services.
Les leaders du secteur renforcent la sécurité des agents avec NVIDIA
Anthropic et NVIDIA ont collaboré pour apporter des niveaux supplémentaires de sécurité et de contrôle à la pile d’agents. Claude Managed Agents établit une frontière de sécurité en exécutant la boucle de l’agent sur un serveur distinct des sandbox où son travail est exécuté. Les intégrations avec OpenShell et BlueField permettent aux entreprises d’exercer un contrôle strict sur l’accès des agents via ces sandbox.
« Les entreprises confient aux agents d’IA une part croissante de leurs tâches les plus importantes, et elles doivent pouvoir diriger et vérifier ce que font ces agents, en particulier dans les environnements sensibles », a déclaré Paul Smith, Chief Commercial Officer d’Anthropic. « Claude Managed Agents offre aux entreprises une vision claire de ce que fait chaque agent, et la plateforme de NVIDIA ajoute un niveau supplémentaire de gouvernance et de contrôle, au niveau matériel comme logiciel. »
SpaceXAI utilise NVIDIA Open Agent Safety Platform pour les agents de codage Cursor et les modèles Grok.
« À mesure que les clients s’appuient davantage sur les agents pour accomplir des tâches concrètes, la sécurité doit être assurée en dehors du modèle, par des contrôles supplémentaires que l’agent ne peut pas contourner », a déclaré Mike Nicolls, président de SpaceXAI. « Les clients doivent pouvoir définir ces limites pour Cursor et Grok, et avoir la certitude qu’elles seront respectées. »
Scale AI collabore avec NVIDIA pour intégrer les technologies de NVIDIA Open Agent Safety Platform à la couche d’infrastructure agentique du portefeuille Scale GenA.
« Scale AI utilise la conception de référence NVIDIA Open Agent Safety Platform pour créer des systèmes d’IA agentique fiables destinés à nos clients entreprises et gouvernementaux qui exécutent des applications critiques, avec l’isolation, l’application des politiques et l’auditabilité intégrées dès le départ », a déclaré Francis deSouza, PDG de Scale AI. « Nous soutenons la sécurité agentique grâce à des limites claires qui définissent ce que les agents peuvent faire, et à des contrôles qui les maintiennent dans le cadre de ces autorisations. »
Salesforce et NVIDIA ont intégré OpenShell à Slack, ce qui permet aux équipes de gérer l’activité des agents OpenShell directement depuis Slack : consulter l’activité des agents et les événements d’audit, et approuver ou rejeter les demandes d’autorisations supplémentaires des agents. Les équipes bénéficient ainsi d’une meilleure visibilité et d’une supervision humaine pendant que les agents travaillent.
SAP* intègre OpenShell à l’environnement d’exécution Joule Studio, qui fait partie de SAP Business AI Platform, afin d’associer la supervision métier à la sécurité à l’exécution. L’entreprise contribue également aux travaux d’ingénierie d’OpenShell et collabore avec NVIDIA pour faire progresser les normes d’interopérabilité par l’intermédiaire de l’ Open Secure AI Alliance.
Accenture*, Armadin*, Cadence*, Cognition, CrowdStrike*, Cisco*, Dassault Systèmes, Deloitte, EY, Hugging Face, IBM*, Irregular, Perplexity, Microsoft, SAP, Scale AI, ServiceNow, Siemens, Synopsys, OpenClaw, Palantir et Palo Alto Networks* font également partie des plus de 100 organisations qui travaillent avec les technologies NVIDIA Open Agent Safety Platform.
Des leaders de la robotique, tels que Figure, Gecko Robotics* et Skild AI — s’appuient également sur OpenShell pour intégrer des contrôles de sécurité des agents dans des systèmes autonomes qui agissent dans le monde physique.
Citi et JPMorganChase figurent parmi les leaders des services financiers qui collaborent avec NVIDIA sur des technologies open source partagées de sécurité des agents.
Les leaders de l’énergie Hitachi Energy, EPRI, NextEra Energy, Quanta Services, SPP, Schneider Electric, Siemens Energy et Worley figurent parmi les fournisseurs d’infrastructures critiques américains qui utilisent les technologies de la plateforme NVIDIA Open Agent Safety Platform.
Les leaders des logiciels d’infrastructure Canonical, SUSE* et Red Hat* intègrent également NVIDIA Open Agent Safety Platform dans des systèmes d’exploitation largement utilisés. Red Hat exécute OpenShell et DOCA, tous deux intégrés à NVIDIA Open Agent Safety Platform, sur Red Hat AI Factory with NVIDIA, une solution d’IA de niveau entreprise conçue conjointement pour créer, déployer et gérer l’IA à grande échelle dans des environnements de cloud hybride.
Des partenaires de NVIDIA, dont Baseten*, Cisco, CoreWeave, Dell Technologies*, GMI Cloud, HPE, HP Inc., Irregular, Lenovo, Microsoft, Nebius, Oracle Cloud Infrastructure, Supermicro* et Together AI figurent parmi ceux qui proposent des solutions d’infrastructure d’IA qui utilisent et prennent en charge les technologies de NVIDIA Open Agent Safety Platform afin d’aider leurs clients à exécuter des agents d’IA de manière plus sécurisée.
Disponibilité
Les logiciels de NVIDIA Open Agent Safety Platform, notamment OpenShell et les compétences associées, sont disponibles via la page de ressources pour les développeurs de NVIDIA* et GitHub*.
Les contributions à l’écosystème, telles que NVIDIA Open Agent Safety Platform, soutiennent la mission de l’ Open Secure AI Alliance ainsi que celle de la communauté plus large de la sûreté et de la sécurité de l’IA. Lancée par NVIDIA aux côtés de plus de 120 organisations de premier plan et placée sous la gouvernance de la Linux Foundation, l’Open Secure AI Alliance renforce la sécurité des agents d’IA grâce à la recherche ouverte, à des compétences et à des outils, ainsi qu’à des projets comme le Shared AI Findings Exchange*, ou SAFE.