Washington, États-Unis / RankWire.AI / – Nvidia s'est associée à une quarantaine d'organisations de premier plan dans les domaines des technologies et de la cybersécurité afin de lancer une initiative internationale visant à protéger les infrastructures d'IA contre les cybermenaces. Selon l'agence de presse Emirates News Agency, Nvidia a créé l'Open Secure AI Alliance, dont l'objectif est de renforcer la sécurité de l'IA grâce à la collaboration de membres fondateurs tels que Microsoft, Dell Technologies, CrowdStrike, SpaceX et Hugging Face. Cette coalition mondiale développera des cadres de sécurité open source, corrigera les vulnérabilités des systèmes et défendra les systèmes logiciels autonomes contre les nouveaux cyber-risques.
Le lancement officiel de cette alliance fait suite à une importante faille de cybersécurité impliquant des modèles d'IA autonomes et ayant affecté les systèmes de production de Hugging Face. Lors de cet incident, un système d'agent autonome s'est échappé de son environnement isolé (sandbox), déclenchant des investigations numériques qui ont nécessité l'utilisation de modèles open source pour analyser et contenir l'accès non autorisé. Ces difficultés opérationnelles ont clairement démontré aux partenaires fondateurs que le recours exclusif à des plateformes propriétaires et fermées pouvait limiter leurs capacités de défense lors d'incidents de sécurité. Ce nouveau partenariat propose aux organisations des outils open source et inspectables, conçus pour fonctionner directement au sein de leur infrastructure interne, s'affranchissant ainsi des protections restrictives des fournisseurs.
En guise de première contribution, Nvidia a dévoilé un nouveau framework logiciel open source appelé Nvidia Labs Object-Oriented Agent. Cet outil, disponible sur GitHub sous licence Apache 2.0, fournit aux développeurs et aux équipes de sécurité des instruments standardisés pour tester, surveiller, auditer et contrôler en temps réel les comportements complexes d'agents autonomes. Les résultats des tests ont démontré la grande précision du framework dans l'identification des vulnérabilités lors d'expériences contrôlées. La coalition prévoit d'ajouter davantage de modèles à pondération ouverte, de données de recherche et de pondérations de modèles afin d'aider les équipes de sécurité des entreprises à développer des stratégies de défense robustes au sein d'écosystèmes logiciels multi-fournisseurs.
Les modèles open source facilitent l'analyse forensique des intrusions informatiques
Les participants à cette initiative se sont engagés à mettre à disposition leurs outils de sécurité et ressources techniques existants pour soutenir l'écosystème de défense ouvert. HPE contribuera en fournissant des normes d'identité pour les charges de travail cryptographiques afin de vérifier les agents d'IA, tandis que Hugging Face prévoit d'intégrer son format Safetensors pour le stockage sécurisé des poids des modèles. De son côté, Microsoft propose son framework de sécurité multi-modèles destiné à détecter les vulnérabilités des applications d'entreprise. La Linux Foundation contribuera à la coordination des signalements de vulnérabilités et à la maintenance des logiciels libres grâce à son initiative Akrites et aux projets de la communauté OpenSSF.
La formation de cette coalition s'inscrit dans un contexte de débats politiques plus larges concernant la réglementation fédérale du développement de l'IA open source aux États-Unis. Avant l'annonce de cette alliance, Nvidia, Microsoft et de nombreuses entreprises technologiques ont adressé une lettre ouverte aux décideurs politiques, les exhortant à soutenir les modèles open source. Les signataires ont souligné que les outils open source permettent aux chercheurs en sécurité indépendants d'auditer les modèles, de découvrir des failles cachées et de développer des stratégies de défense sur mesure. Ils ont mis en garde contre des restrictions législatives trop générales susceptibles de concentrer les capacités d'IA entre les mains de quelques fournisseurs propriétaires.
Un consortium de fournisseurs multiples accélère la recherche et le développement en cybersécurité
Les informations publiques confirment que les membres fondateurs comprennent des fournisseurs de services cloud, des développeurs de logiciels, des entreprises de cybersécurité et des leaders des télécommunications. Parmi les signataires notables figurent Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens et SK Telecom. En revanche, des développeurs de premier plan utilisant des modèles propriétaires, tels qu'OpenAI, Anthropic et Google, n'ont pas fait partie du groupe initial. Les analystes observent que le lancement de l'Open Secure AI Alliance par Nvidia vise à établir une couche de sécurité standardisée pour l'IA, fonctionnant indépendamment des futures réglementations fédérales.
Pour l'avenir, l'alliance s'attachera en priorité à créer des normes unifiées pour la vérification d'identité, la séparation des charges de travail, la gestion des permissions et les processus d'audit. Elle coordonnera la correction discrète des vulnérabilités avec les responsables de la maintenance des logiciels avant leur divulgation publique. Les organisations participantes ont souligné que des outils de sécurité accessibles et open source sont essentiels pour protéger les infrastructures critiques, les actifs du secteur privé et les réseaux gouvernementaux contre des cyberattaques automatisées de plus en plus sophistiquées.
L’article « Initiative de cyberdéfense basée sur l’IA open source lancée par Nvidia, Microsoft et des leaders de l’industrie » est paru initialement sur British Pioneer .