Les logiciels open source constituent un pilier essentiel de l’économie mondiale. Ils sous-tendent le cloud computing, les services financiers, la fabrication, les télécommunications, les services gouvernementaux et les services Internet en rendant la technologie accessible et observable pour les communautés d’experts.
La cybersécurité figure parmi les trois principaux bénéficiaires des logiciels open source. L’Open Secure AI Alliance, qui s’appuie sur le leadership de la Linux Foundation, sur son initiative Akrites et sur les travaux communautaires d’ OpenSSF, s’emploiera à corriger et à divulguer les vulnérabilités au moyen de technologies ouvertes.
Tout comme l’open source a créé une base commune pour les logiciels, les États-Unis et leurs partenaires sont désormais confrontés à un choix en matière de sécurité de l’IA : les défenses qui protègent notre infrastructure doivent-elles rester confinées dans quelques systèmes opaques, ou être construites sur des modèles, des environnements et des outils ouverts que tout défenseur peut étudier, adapter et déployer ?
Le monde a besoin à la fois de modèles fermés et de modèles ouverts. Pour la cybersécurité, les modèles ouverts et les environnements ouverts sont essentiels, car ils démocratisent les capacités défensives, accroissent la transparence pour les défenseurs, permettent la cyberdéfense tout en protégeant les données, et complètent les modèles fermés de pointe par des contrôles personnalisables et localisés. L’open source permet une défense massivement distribuée, pilotée par la communauté et contrôlée de manière autonome, sans point de défaillance unique.
Les modèles ouverts, comme toute technologie puissante, peuvent faire l’objet d’une utilisation abusive, notamment dans le cadre de tentatives visant à affaiblir les protections ou à réaffecter des capacités à des cyberattaques, mais ces risques ne sont pas propres aux systèmes ouverts et doivent être gérés partout où une IA avancée est déployée.
Le récent incident de sécurité de Hugging Face a servi de rappel clair : les cyber défenseurs ont besoin de systèmes agentiques ouverts et de pointe pour assurer leur autodéfense. Lorsque des outils d’IA fermés, incapables de distinguer les attaquants des défenseurs, ont bloqué une analyse forensique essentielle, Hugging Face a exécuté le modèle GLM 5.2 à poids ouverts sur sa propre infrastructure afin d’analyser plus de 17 000 actions et de contenir l’intrusion.
Cet incident a mis en évidence une réalité pratique : lorsque les défenseurs ne peuvent pas inspecter, adapter et exécuter une IA avancée sur leur propre infrastructure, leur capacité de réponse est limitée précisément au moment où la rapidité est la plus essentielle. Les entreprises et les pays ont besoin d’outils et de techniques défensifs ouverts et de pointe afin que les secteurs critiques puissent concevoir des systèmes de sécurité au sein d’un écosystème multifournisseur et éviter les points de défaillance uniques.
Telle est la mission de l’Open Secure AI Alliance : garantir que les défenseurs, où qu’ils se trouvent, disposent d’outils ouverts et de pointe auxquels ils peuvent faire confiance et qu’ils peuvent contrôler.
Des leaders du cloud computing, de la cybersécurité, des logiciels d’entreprise, des fondations open source et de la recherche en IA, notamment NVIDIA, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, la Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpacexAI, Synopsys, Thinking Machines Lab et TrendAI sont les partenaires inauguraux de l’Open Secure AI Alliance, un mouvement visant à développer et à partager des technologies, techniques et outils ouverts pour protéger les logiciels et les agents à l’ère de l’IA.
Certains soutiennent que les modèles ouverts sont intrinsèquement moins sûrs, car ils peuvent être utilisés à mauvais escient pour des cyberattaques ou modifiés afin de supprimer les garde-fous. Ces risques sont réels, mais ils ne disparaissent pas dans les systèmes fermés, et le simple fait de garder les poids fermés n’empêche pas les attaquants déterminés de rechercher ou d’exploiter une IA puissante.
La réponse appropriée ne consiste pas à refuser aux défenseurs l’accès à des systèmes ouverts performants. Elle consiste à associer l’ouverture à des garanties solides, à des règles claires contre les usages malveillants, à une évaluation rigoureuse et à des mesures correctives rapides. En cybersécurité, la voie la plus sûre est celle qui donne à davantage de défenseurs la capacité de tester, de vérifier et de renforcer les systèmes sur lesquels la société repose.
Les défenseurs ont besoin à la fois de modèles fermés de pointe et de modèles ouverts de pointe, fonctionnant ensemble, afin de pouvoir choisir le système adapté à chaque tâche et de garantir que la transparence, l’adaptation et le contrôle souverain soient disponibles partout où la sécurité l’exige.
La recherche ouverte renforce la cybersécurité et la sûreté de l’IA
Un agent d’IA n’est pas simplement un modèle de langage. Il s’agit d’un système complexe construit à partir de modèles, de harnais et de garde-fous.
La véritable sûreté et la véritable sécurité de l’IA dépendent de l’ensemble de la pile agentique — identité, autorisations, cadres d’exécution, garde-fous, journaux et évaluation — et pas seulement du caractère ouvert ou fermé des poids des modèles. Des cadres d’exécution et des outils ouverts rendent ces contrôles plus faciles à inspecter, tester et améliorer pour de nombreux défenseurs.
NVIDIA apporte des modèles ouverts, des poids de modèles, des données et de nouveaux travaux de recherche sur les cadres d’agents à l’Open Secure AI Alliance afin d’accélérer le développement de nouveaux outils et techniques de cybersécurité.
Le nouveau projet open source NVIDIA Labs Object-Oriented Agent (NOOA) est désormais disponible sur GitHub afin de rendre les capacités avancées de sécurité de l’IA plus accessibles aux environnements de test d’agents. Le cadre de recherche NOOA permet à ces environnements de mieux s’intégrer aux modèles afin de faciliter le test, le traçage, l’audit et la gouvernance du comportement des agents.
Dans l’ensemble de l’Alliance, les contributeurs élaborent une pile de défense ouverte pour les agents — de l’identité et de l’isolation aux formats de modèles sécurisés, à l’analyse multimodèle et aux flux de travail de codage sécurisé.
HPE contribue à SPIFFE/SPIRE, qui crée des normes et des méthodes de cadre d’identité zero trust capables de vérifier cryptographiquement les agents et services d’IA afin de garantir que seules les charges de travail autorisées communiquent et accèdent aux ressources de l’entreprise.
Hugging Face a proposé Safetensors — un format sûr pour stocker les poids de modèles d’IA, offrant transparence et garanties d’absence d’exécution de code à distance — à la Fondation PyTorch.
Lightwell d’IBM et de Red Hat étend la sécurité à l’ensemble de la chaîne d’approvisionnement open source avec des correctifs signés numériquement.
MDASH de Microsoft, un environement d’analyse agentique multimodèle orchestre des agents d’IA spécialisés afin de découvrir des bugs exploitables, d’en débattre et d’en démontrer l’existence.
SpaceX AI a publié en open source l’agent de codage d’IA basé sur terminal Grok Build visant à promouvoir la confiance, la transparence et de nouvelles capacités, et prévoit de publier en open source les poids de la gamme de modèles Grok afin de soutenir les communautés des développeurs et de la recherche.
Appel aux décideurs politiques et aux autorités de régulation
Alors que les responsables politiques et les régulateurs s’emploient à traiter la sécurité de l’IA, il sera essentiel de reconnaître les modèles ouverts, les environnements de test et les outils de sécurité comme des atouts défensifs, et non comme des risques, dans les politiques relatives à l’IA et à la cybersécurité. Des restrictions générales visant les systèmes d’IA de pointe ouverts affaibliraient les capacités défensives et risqueraient de concentrer le pouvoir, la dépendance et la vulnérabilité entre les mains de quelques fournisseurs fermés.
Les entreprises et les gouvernements devraient investir dans une infrastructure ouverte partagée pour la défense de l’IA — jeux de données, cadres d’évaluation, simulateurs d’attaques et outils de red teaming — tout comme les générations précédentes ont investi dans les logiciels open source.
L’avenir que nous devrions bâtir
L’ère des agents d’IA peut être une ère de résilience et de sécurité partagée. Avec les bons choix, les systèmes d’IA ouverts et sécurisés peuvent donner aux défenseurs les outils dont ils ont besoin, renforcer la concurrence, étendre le leadership technologique et garantir que la sûreté et la sécurité de cette technologie extraordinaire sont intégrées de manière ouverte pour tous.
Cet avenir ne sera pas sécurisé en supposant que le secret à lui seul constitue la sécurité. Il le sera en construisant des systèmes suffisamment robustes pour résister à l’examen, suffisamment flexibles pour être améliorés et suffisamment ouverts pour mobiliser l’ensemble de la communauté des défenseurs.
Cet avenir mérite d’être construit — et l’Open Secure AI Alliance invite les gouvernements, l’industrie et les chercheurs à se joindre aux travaux visant à défendre ensemble l’ère de l’IA.
En savoir plus ou manifester votre intérêt pour rejoindre l’Open Secure AI Alliance.