TL;DR : Canonical (Ubuntu) a rejoint l’Open Secure AI Alliance, la coalition fondée par NVIDIA et désormais hébergée par la Linux Foundation, afin de construire des outils ouverts pour sécuriser les agents IA. Cette annonce fait suite à la divulgation par Hugging Face, en juillet 2026, d’une intrusion autonome pilotée par un agent, qui a révélé les limites des outils de sécurité fermés. Les premières livraisons incluent le framework d’audit d’agents NOOA de NVIDIA, le format Safetensors de Hugging Face et SAFE, un système de partage d’incidents.
Pourquoi maintenant : une intrusion pilotée par un agent a changé la donne
Le 16 juillet 2026, Hugging Face a divulgué une intrusion dans une partie de son infrastructure de production — « pilotée, de bout en bout, par un système d’agent IA autonome » (Source : Hugging Face — Security incident disclosure — July 2026). Un jeu de données malveillant a exploité deux chemins d’exécution de code dans le pipeline de traitement des données pour exécuter du code sur un worker, puis a escaladé les privilèges, récolté des identifiants et s’est déplacé latéralement pendant un week-end — le scénario de l’« attaquant agentique » que l’industrie avait anticipé.
Lorsque les ingénieurs ont tenté d’analyser plus de 17 000 événements enregistrés à l’aide de modèles frontières via des API commerciales, les requêtes ont été bloquées : les garde-fous des fournisseurs « ne peuvent pas distinguer un intervenant en réponse à incident d’un attaquant ». L’équipe s’est alors tournée vers le modèle à poids ouverts GLM-5.2 sur sa propre infrastructure, en conservant les données de l’attaquant et les identifiants en interne (Source : Hugging Face — Security incident disclosure — July 2026). Cette asymétrie constitue la logique fondatrice de l’alliance.
Une coalition dotée d’un foyer neutre
Lancée sous l’égide de NVIDIA en juillet 2026, l’alliance a rejoint la Linux Foundation début septembre en tant que « foyer neutre », s’appuyant sur l’initiative Akrites de la fondation et sur les travaux de l’OpenSSF (Source : Techzine — Open Secure AI Alliance moves to the Linux Foundation). Canonical a annoncé son adhésion le 28 août, rejoignant plus de 120 partenaires fondateurs, dont Microsoft, IBM, Red Hat, CrowdStrike et Hugging Face (Source : NVIDIA Blog — Industry Leaders Join Open Secure AI Alliance for AI Safety and Security). Jim Zemlin, CEO de la Linux Foundation, a résumé la logique : « L’open source est devenu l’épine dorsale de l’informatique moderne parce qu’il permettait à chacun de voir, d’améliorer et de sécuriser la technologie dont il dépend… L’IA mérite les mêmes fondations » (Source : Linux Foundation — Open Models and Open Weights Are Foundational to Secure AI).
L’outillage concret : signature, sandboxing et audit
NVIDIA présente ses premières contributions comme une « pile de défense ouverte pour les agents » (Source : NVIDIA Blog — Industry Leaders Join Open Secure AI Alliance for AI Safety and Security) :
- NOOA (NVIDIA Labs Object-Oriented Agent) rend les harnais d’agents plus faciles à tester, tracer, auditer et gouverner.
- Safetensors, le format sûr de poids de modèles de Hugging Face, garantit l’absence d’exécution de code à distance au chargement et a été proposé à la PyTorch Foundation.
- SPIFFE/SPIRE, de HPE, fournit une identité zero-trust qui vérifie cryptographiquement les agents et services IA.
- Lightwell (IBM/Red Hat) ajoute des correctifs signés numériquement à la chaîne d’approvisionnement open source ; MDASH de Microsoft est un harnais de scan agentique multi-modèles.
La première proposition formelle, SAFE (Shared AI Findings Exchange), est un canal confidentiel de signalement des incidents et quasi-incidents liés à l’IA (Source : OMG! Ubuntu — Canonical joins the Open Secure AI Alliance). Un SBOM standardisé pour les modèles fait encore défaut, bien que l’AIBOM Generator d’OWASP et ModelSigning de l’OpenSSF existent déjà — des briques que l’alliance peut assembler plutôt que réinventer.
Le rôle de Canonical : sécuriser la base de la pile
L’argument de Canonical est qu’un agent IA est « bien plus que ses poids de modèle. C’est une pile complète de logiciels, de harnais et de garde-fous. Et à la base de cette pile se trouve l’infrastructure » (Source : Canonical — Canonical joins the Open Secure AI Alliance). Ubuntu fournit déjà les primitives nécessaires : UEFI Secure Boot, AppArmor par défaut, chiffrement adossé au TPM et informatique confidentielle. Ubuntu Pro étend la maintenance de sécurité à l’ensemble de l’archive — y compris Universe — jusqu’à 15 ans, un atout critique pour les secteurs réglementés exploitant des versions à longue durée de vie.
Pour des agents agissant avec des permissions, cette couche de base est porteuse : un agent non confiné peut exfiltrer des secrets ou exécuter du code arbitraire. Le cadrage « au-delà des modèles » de l’alliance reconnaît que les agents accèdent à de la mémoire externe, se connectent à des logiciels tiers et peuvent s’exécuter avec des privilèges système — l’isolation et la surveillance en temps réel sont donc non négociables (Source : OMG! Ubuntu — Canonical joins the Open Secure AI Alliance).
Ce que cela signifie pour les agents autonomes
Pourquoi l’ouverture plutôt que le propriétaire ? L’incident Hugging Face fournit la réponse empirique : les modèles fermés ont fait défaut aux intervenants, tandis qu’un modèle à poids ouverts a débloqué l’enquête. La Linux Foundation fait valoir que 76 à 99 % des bases de code commerciales contiennent déjà des composants open source, et que la transparence « s’est révélée à maintes reprises plus sûre que l’obscurité » (Source : Linux Foundation — Open Models and Open Weights Are Foundational to Secure AI).
Pour les développeurs, les implications sont concrètes : le chargement des poids de modèles convergera vers des formats sûrs comme Safetensors, l’identité et le sandboxing deviendront des paramètres par défaut, et la télémétrie des incidents circulera via des canaux partagés comme SAFE. Le problème plus difficile — les modèles malveillants ou compromis — précède tout cela ; des chercheurs ont documenté plus d’une centaine d’instances de modèles malveillants sur Hugging Face capables d’exécuter du code sur la machine de la victime (Source : BleepingComputer — Malicious AI models on Hugging Face backdoor users' machines). Ce risque de chaîne d’approvisionnement est précisément ce que l’outillage ouvert de signature et de SBOM vise à combler.
FAQ
L’Open Secure AI Alliance est-elle un organisme de normalisation ou un projet de code ?
Les deux, en quelque sorte : une coalition hébergée par la Linux Foundation qui développe des outils ouverts et des pratiques partagées. Sa première production formelle, SAFE, est une proposition de partage confidentiel d’incidents plutôt qu’une norme ratifiée.
Que contribue concrètement Canonical ?
Principalement Ubuntu en tant que base durcie (Secure Boot, AppArmor, chiffrement adossé au TPM, informatique confidentielle), plus la maintenance de sécurité à long terme d’Ubuntu Pro sur l’ensemble de l’archive.
Qu’est-ce que NOOA, et pourquoi est-ce important ?
NVIDIA Labs Object-Oriented Agent est un framework open source qui rend le comportement des agents testable, traçable, auditable et gouvernable — comblant ainsi le déficit d’audit révélé par l’intrusion chez Hugging Face.
Cela règle-t-il le problème des modèles malveillants sur Hugging Face ?
Pas en soi. Les formats sûrs comme Safetensors empêchent l’exécution de code au chargement, mais les poids compromis nécessitent encore du scanning, de la signature et une provenance de type SBOM — l’outillage que l’alliance est en train d’assembler.
Pourquoi la Linux Foundation et pas NVIDIA seul ?
La gouvernance neutre. Un hébergement par une fondation empêche tout fournisseur unique d’orienter l’initiative, à l’image de la manière dont l’OpenSSF coordonne la sécurité entre entreprises concurrentes.
Pour aller plus loin
- Canonical — Canonical joins the Open Secure AI Alliance
- Linux Foundation — Open Models and Open Weights Are Foundational to Secure AI
- NVIDIA Blog — Industry Leaders Join Open Secure AI Alliance for AI Safety and Security
- Hugging Face — Security incident disclosure — July 2026
- Techzine — Open Secure AI Alliance moves to the Linux Foundation
- OMG! Ubuntu — Canonical joins the Open Secure AI Alliance
- BleepingComputer — Malicious AI models on Hugging Face backdoor users' machines
— The Agent Report
Cet article a été initialement publié sur The Agent Report.
Top comments (0)