L’IA agentique redéfinit le paysage de la cybersécurité en ouvrant la voie à de nouvelles opportunités qui nécessitent de repenser la façon de sécuriser l’IA tout en offrant les clés pour relever ces défis.
Contrairement aux systèmes d’IA standard, les agents d’IA peuvent agir de manière autonome en interagissant avec des outils, des environnements, d’autres agents et des données sensibles. Cette approche offre de nouvelles opportunités aux défenseurs, mais fait également apparaître de nouvelles catégories de risques. Les entreprises doivent désormais adopter une double approche : se défendre à la fois avec l’IA agentique et contre celle-ci.
Bâtir une défense de cybersécurité grâce à l’IA agentique
Les équipes de cybersécurité sont de plus en plus submergées par la pénurie de talents et le volume croissant d’alertes. L’IA agentique offre de nouvelles façons de renforcer la détection des menaces, la réponse et la sécurité de l’IA, et nécessite un tournant décisif dans les fondements de l’écosystème de la cybersécurité.
Les systèmes d’IA agentique peuvent percevoir, raisonner et agir de manière autonome pour résoudre des problèmes complexes. Ils peuvent également servir de collaborateurs intelligents pour les cyberexperts afin de protéger les ressources numériques, réduire les risques dans les environnements d’entreprise et améliorer l’efficacité des centres d’opérations de sécurité. Les équipes de cybersécurité peuvent ainsi se concentrer sur des décisions à fort impact et accroître leur expertise tout en réduisant la fatigue de la main-d’œuvre.
Par exemple, les agents d’IA peuvent réduire le temps nécessaire pour réagir aux failles de sécurité logicielle en enquêtant sur le risque d’une nouvelle vulnérabilité courante ou d’une exposition en quelques secondes. Ils peuvent rechercher des ressources externes, évaluer des environnements, résumer et hiérarchiser les résultats afin que les analystes humains puissent prendre des mesures rapides et éclairées.
Des entreprises de premier plan telles que Deloitte utilisent le plan d’IA de NVIDIA pour l’analyse des vulnérabilités, NVIDIA NIM et NVIDIA Morpheus pour permettre à leurs clients d’accélérer les correctifs logiciels et la gestion des vulnérabilités. AWS a également collaboré avec NVIDIA pour développer une architecture de référence open source utilisant ce modèle d’IA de NVIDIA pour les correctifs de sécurité logiciels sur les environnements Cloud AWS.
Les agents d’IA peuvent également améliorer le tri des alertes de sécurité. La plupart des centres d’opérations de sécurité sont confrontés à un nombre écrasant d’alertes chaque jour, et le tri des signaux critiques à partir du bruit est lent, répétitif et dépend des connaissances et de l’expérience de l’établissement.
Les principaux fournisseurs de sécurité utilisent les logiciels d’IA de NVIDIA pour faire progresser l’IA agentique en matière de cybersécurité, notamment CrowdStrike et Trend Micro. Charlotte AI de CrowdStrike offre un triage de détection deux fois plus rapide avec 50 % de ressources de calcul en moins, réduisant la fatigue liée aux alertes et optimisant l’efficacité du centre d’opérations de sécurité.
Les systèmes agentiques permettent d’accélérer l’ensemble du workflow : analyser les alertes, rassembler le contexte à partir d’outils, raisonner sur les causes profondes et agir en fonction des résultats, le tout en temps réel. Ils peuvent même faciliter l’intégration de nouveaux analystes en capturant les connaissances d’analystes expérimentés et en les mettant en action.
Les entreprises peuvent développer des agents de triage d’alerte à l’aide du modèle NVIDIA AI-Q pour connecter des agents d’IA aux données de l’entreprise et du kit d’outils NVIDIA Agent Intelligence, une bibliothèque open source accélérant le développement des agents d’IA et optimisant les workflows.
Protéger les applications d’IA agentique
Les systèmes d’IA agentique ne se contentent pas d’analyser des informations : ils raisonnent et agissent en conséquence. Cela présente de nouveaux défis en matière de sécurité : les agents peuvent accéder à des outils, générer des résultats qui déclenchent des effets en aval ou interagir avec des données sensibles en temps réel. Pour s’assurer qu’ils se comportent de manière sûre et prévisible, les entreprises ont besoin de tests avant déploiement et de contrôles au moment de l’exécution.
Le Red teaming et les tests permettent d’identifier les faiblesses dans la façon dont les agents interprètent les invites, utilisent des outils ou gèrent les entrées inattendues avant de passer en production. Cela inclut également la capacité des agents à respecter les contraintes, à se remettre des échecs et à résister aux attaques manipulatrices ou adversariales.
Garak, un scanner de vulnérabilités pour les grands modèles de langage, permet de tester automatiquement des agents basés sur des LLM en simulant un comportement adversarial tel que l’injection d’invites, la mauvaise utilisation d’outils et les erreurs de raisonnement.
Les barrières d’exécution permettent d’appliquer des limites de politique, de limiter les comportements dangereux et d’aligner rapidement les résultats des agents sur les objectifs de l’entreprise. Le logiciel NVIDIA NeMo Guardrails permet aux développeurs de définir, déployer et mettre à jour rapidement les règles régissant ce que les agents d’IA peuvent dire et faire. Cette adaptabilité à faible coût et peu d’efforts garantit une réponse rapide et efficace lorsque des problèmes sont détectés, maintenant ainsi la cohérence et la sécurité du comportement des agents en production.
Des entreprises de premier plan comme Amdocs, Cerence AI et Palo Alto Networks exploitent NeMo Guardrails pour offrir à leurs clients des expériences d’agents fiables.
Les protections au moment de l’exécution permettent de protéger les données sensibles et les actions des agents pendant l’exécution, afin de garantir des opérations sécurisées et fiables. NVIDIA Confidential Computing permet de protéger les données pendant leur exécution, c’est-à-dire de protéger les données en cours d’utilisation. Cela réduit le risque d’exposition pendant l’entraînement et l’inférence pour les modèles d’IA de toutes tailles.
La technologie NVIDIA Confidential Computing est disponible auprès des principaux fournisseurs de services dans le monde, notamment Google Cloud et Microsoft Azure, et d’autres fournisseurs de services Cloud seront prochainement disponibles.
La base de toute application d’IA autonome est l’ensemble des outils logiciels, des bibliothèques et des services utilisés pour créer la pile d’inférence. La plateforme logicielle NVIDIA AI Enterprise est produite selon un processus de cycle de vie logiciel préservant la stabilité de l’interface de programmation d’applications tout en corrigeant les vulnérabilités durant tout le cycle de vie du logiciel. Cela inclut des analyses régulières de code et la publication en temps opportun de correctifs de sécurité ou de mesures d’atténuation.
L’authenticité et l’intégrité des composants d’IA de la chaîne d’approvisionnement sont essentielles pour créer la confiance dans les systèmes d’IA agentique. La pile logicielle NVIDIA AI Enterprise inclut des signatures de conteneurs, des signatures de modèles et une nomenclature logicielle pour permettre la vérification de ces composants.
Chacune de ces technologies fournit des couches de sécurité supplémentaires pour protéger les données critiques et les modèles de valeur dans plusieurs environnements de déploiement, sur site ou sur le Cloud.
Sécuriser l’infrastructure des agents
À mesure que les systèmes d’IA agentique s’autonomisent et sont intégrés aux workflows d’entreprise, l’infrastructure sur laquelle ils s’appuient devient un élément essentiel de l’équation de la sécurité. Qu’elle soit déployée dans un centre de données, à l’Edge ou en usine, l’IA agentique requiert une infrastructure capable d’imposer l’isolement, la visibilité et le contrôle, dès la conception.
Les systèmes agentiques fonctionnent avec une grande autonomie pour effectuer des actions à fort impact pouvant s’avérer bénéfiques ou potentiellement nuisibles. Cette autonomie inhérente nécessite de protéger les charges de travail en cours d’exécution, de surveiller les opérations et d’appliquer strictement des principes de confiance zéro pour sécuriser efficacement ces systèmes.
Les DPU NVIDIA BlueField, associés à NVIDIA DOCA Argus, fournissent un framework permettant aux applications d’accéder à une visibilité complète en temps réel sur la charge de travail des agents et de localiser précisément les menaces grâce à une analyse avancée de la mémoire. Le déploiement de contrôles de sécurité directement sur des DPU NVIDIA BlueField, plutôt que sur des CPU, permet d’isoler les menaces au niveau de l’infrastructure, de réduire considérablement le rayon de compromis potentiels et de renforcer une architecture complète et sécurisée.
Les intégrateurs utilisent également NVIDIA Confidential Computing pour renforcer les bases de sécurité de l’infrastructure agentique. EQTYLab a par exemple développé un nouveau système de certificat cryptographique fournissant la première gouvernance sur puce pour garantir la conformité des agents d’IA lors de leur exécution. Elle sera présentée à RSA cette semaine parmi les 10 lauréats du prix RSA Innovation Sandbox
NVIDIA Confidential Computing est pris en charge par les GPU NVIDIA Hopper et NVIDIA Blackwell. Ainsi, les technologies d’isolation peuvent désormais être étendues à la machine virtuelle confidentielle lorsque les utilisateurs passent d’un GPU unique à un système multi-GPU.
Une IA sécurisée est fournie par Protected PCIe et s’appuie sur NVIDIA Confidential Computing pour permettre aux clients de faire évoluer les charges de travail d’un GPU à huit GPU. Les entreprises peuvent ainsi s’adapter à leurs besoins en IA autonome tout en garantissant une sécurité optimale.
Ces composants d’infrastructure prennent en charge l’attestation locale et distante, permettant aux clients de vérifier l’intégrité de la plateforme avant de déployer des charges de travail sensibles.
Ces capacités de sécurité sont particulièrement importantes dans des environnements tels que les usines d’IA, où les systèmes agentiques commencent à alimenter l’automatisation, le contrôle et la prise de décision dans le monde réel. Cisco est un pionnier en matière d’infrastructure d’IA sécurisée en intégrant des DPU NVIDIA BlueField pour former la base del’usine d’IA sécurisée de Cisco avec NVIDIA pour fournir des déploiements d’IA évolutifs, sécurisés et efficaces aux entreprises.
Étendre l’IA agentique aux systèmes cyber-physiques augmente les enjeux, car les compromis peuvent avoir un impact direct sur la disponibilité, la sécurité et l’intégrité des opérations physiques. Des partenaires de premier plan tels qu’Armis, Check Point, CrowdStrike, Deloitte, Forescout, Nozomi Networks et World Wide Technology intègrent les technologies d’IA de cybersécurité de NVIDIA pour aider les clients à renforcer leur infrastructure critique contre les cybermenaces dans des secteurs tels que l’énergie, les services publics et la fabrication industrielle.
Instaurer la confiance à mesure que l’IA passe à l’action
Toutes les entreprises doivent aujourd’hui s’assurer que leurs investissements dans la cybersécurité intègrent l’IA pour protéger les workflows de demain. Chaque charge de travail doit être accélérée pour enfin donner aux défenseurs les outils pour fonctionner à la vitesse de l’IA.
NVIDIA développe des capacités d’IA et de sécurité pour servir de base technologique à son écosystème de partenaires afin de fournir des solutions de cybersécurité basées sur l’IA. Ce nouvel écosystème permettra aux entreprises de développer des systèmes d’IA agentique sécurisés et évolutifs.
Rejoignez NVIDIA à la conférence RSA pour en savoir plus sur ses collaborations avec les leaders de l’industrie pour faire progresser la cybersécurité.
Consultez l’avis sur les informations relatives aux produits logiciels.