Da NVIDIA e Linux Foundation nasce una coalizione con decine di partner tecnologici. L’obiettivo è costruire modelli, strumenti e infrastrutture aperte per proteggere software e agenti di intelligenza artificiale.
L’open source sostiene da decenni una parte fondamentale dell’economia digitale, dal cloud alle telecomunicazioni, passando per i servizi finanziari, la manifattura e le infrastrutture pubbliche. Con l’arrivo degli agenti di intelligenza artificiale, quello stesso modello di collaborazione viene ora applicato a una nuova sfida: proteggere sistemi autonomi capaci di utilizzare strumenti, accedere a dati ed eseguire azioni.
Nasce con questo obiettivo la Open Secure AI Alliance, una coalizione che riunisce aziende tecnologiche, società di cybersicurezza, fondazioni open source e laboratori di ricerca. L’iniziativa intende sviluppare e condividere tecnologie, tecniche e strumenti aperti per individuare, correggere e divulgare le vulnerabilità dei software e degli agenti di IA.
Il progetto si basa sul lavoro già svolto dalla Linux Foundation attraverso l’iniziativa Akrites e dalla comunità OpenSSF. Fra i partner iniziali figurano NVIDIA, Adobe, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, HPE, Hugging Face, IBM, Microsoft, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, Snowflake e numerose altre organizzazioni.
L’obiettivo dichiarato è mettere a disposizione dei difensori strumenti avanzati che possano essere studiati, adattati ed eseguiti direttamente sulle proprie infrastrutture, evitando che le capacità di sicurezza più sofisticate rimangano confinate all’interno di pochi sistemi proprietari. NVIDIA, Linux Foundation.
Perché la sicurezza di un agente non dipende soltanto dal modello
Un agente di intelligenza artificiale non è semplicemente un modello linguistico. È un sistema composto da diversi livelli: modello, strumenti, identità, permessi, memoria, agent harness, registri delle attività, guardrail e procedure di valutazione.
Un errore in uno qualsiasi di questi componenti può permettere all’agente di accedere a dati non autorizzati, eseguire operazioni pericolose o utilizzare strumenti oltre i limiti previsti.
Per questo la Open Secure AI Alliance vuole concentrarsi sull’intero stack. La sicurezza degli agenti dipende dalla possibilità di verificare chi può fare cosa, con quali strumenti e all’interno di quali confini, non soltanto dal fatto che i pesi del modello siano aperti o chiusi.
Gli agent harness, in particolare, rappresentano il livello software che collega il modello agli strumenti e all’ambiente operativo. Possono controllare le autorizzazioni, registrare le azioni, applicare regole di sicurezza e impedire comportamenti non previsti.
Rendere questi componenti aperti permette a ricercatori e professionisti della sicurezza di ispezionarli, testarli e migliorarli. Allo stesso tempo, l’apertura del codice non costituisce da sola una garanzia: un sistema trasparente può comunque essere configurato male, contenere vulnerabilità o essere utilizzato con finalità dannose.
Il contributo di NVIDIA con NOOA
NVIDIA contribuirà all’Alleanza con modelli aperti, pesi, dati e nuove attività di ricerca sugli agent harness.
Tra i primi progetti figura NVIDIA Labs Object-Oriented Agent, o NOOA, un framework open source progettato per facilitare l’integrazione tra modelli e infrastrutture agentiche. Lo scopo è rendere il comportamento degli agenti più semplice da testare, tracciare, verificare e governare.
NOOA parte dal presupposto che un agente debba essere osservabile durante tutto il suo ciclo operativo. Non basta controllare il risultato finale: è necessario poter ricostruire gli strumenti utilizzati, le autorizzazioni richieste, le decisioni prese e le azioni eseguite.
Questa capacità di audit diventa particolarmente importante quando gli agenti operano su codice sorgente, sistemi aziendali, dati sensibili o infrastrutture critiche. Più aumenta l’autonomia degli agenti, maggiore diventa la necessità di rendere verificabile ogni passaggio della loro attività.
Un’infrastruttura aperta per la difesa degli agenti
I membri dell’Alleanza stanno contribuendo a diversi livelli di quello che potrebbe diventare uno stack aperto per la sicurezza dell’IA.
HPE partecipa al lavoro su SPIFFE e SPIRE, tecnologie per l’identità zero trust che permettono di verificare crittograficamente agenti, servizi e carichi di lavoro. L’obiettivo è fare in modo che soltanto le componenti autorizzate possano comunicare e accedere alle risorse aziendali.
Hugging Face ha proposto Safetensors alla PyTorch Foundation. Il formato è stato progettato per archiviare i pesi dei modelli in modo trasparente e senza consentire l’esecuzione remota di codice durante il caricamento.
IBM e Red Hat lavorano invece sulla sicurezza della supply chain open source attraverso patch firmate digitalmente, mentre Microsoft contribuisce con MDASH, un sistema di scansione nel quale più agenti specializzati collaborano per individuare e verificare vulnerabilità sfruttabili.
Questi progetti mostrano come la sicurezza dell’IA stia diventando un problema di identità, isolamento, provenienza del software, gestione dei modelli, autorizzazioni e verifica continua.
Il caso Hugging Face e i limiti degli strumenti chiusi
Uno degli episodi utilizzati per spiegare la necessità di sistemi aperti riguarda un recente incidente di sicurezza affrontato da Hugging Face.
Secondo la ricostruzione pubblicata dall’azienda, alcuni strumenti di IA proprietari avrebbero bloccato attività necessarie all’analisi forense perché incapaci di distinguere l’azione di un difensore da quella di un attaccante.
Hugging Face avrebbe quindi eseguito il modello open-weight GLM 5.2 sulla propria infrastruttura, utilizzandolo per analizzare una sequenza composta da oltre 17.000 eventi e ricostruire l’attacco.
L’episodio mette in evidenza un problema pratico: quando un’organizzazione non può controllare il modello o adattarne le policy, una protezione pensata per impedire gli abusi può ostacolare anche attività legittime di risposta a un incidente.
Un sistema eseguito localmente consente invece di proteggere i dati forensi, modificare le procedure e mantenere il controllo operativo. Questo non rende automaticamente sicuro il modello, ma permette ai responsabili della difesa di configurarlo in funzione del contesto.
Modelli aperti e modelli chiusi non sono necessariamente alternativi
L’Alleanza non sostiene che tutti i sistemi debbano diventare open source. La posizione proposta è che modelli aperti e chiusi debbano coesistere, permettendo ai difensori di scegliere lo strumento più adatto.
I modelli proprietari possono offrire prestazioni elevate, servizi gestiti e aggiornamenti centralizzati. I modelli aperti consentono invece personalizzazione, esecuzione locale, verifiche indipendenti e maggiore controllo sui dati.
Il punto più delicato riguarda il possibile utilizzo offensivo. I modelli aperti possono essere modificati per rimuovere protezioni o adattati ad attacchi informatici. Ma rischi analoghi esistono anche nei sistemi chiusi, che possono essere aggirati, compromessi o utilizzati tramite accessi illeciti.
La risposta non può quindi limitarsi alla segretezza. Servono valutazioni tecniche, controlli degli accessi, isolamento, registrazione delle attività, disclosure coordinata e procedure rapide di correzione.
Analisi di mercato: nasce un nuovo livello dello stack di sicurezza
La Open Secure AI Alliance interviene mentre il mercato della cybersecurity sta passando dalla protezione delle applicazioni tradizionali alla difesa di sistemi capaci di agire autonomamente.
In questo scenario, la sicurezza degli agenti potrebbe diventare una categoria distinta, collocata tra identity management, application security, sicurezza della supply chain e governance dell’IA.
La vera competizione non riguarderà soltanto la qualità dei modelli. Riguarderà la capacità di costruire infrastrutture in grado di stabilire:
- l’identità di ogni agente;
- gli strumenti che può utilizzare;
- i dati ai quali può accedere;
- le operazioni che può eseguire;
- le condizioni che richiedono l’intervento umano;
- la possibilità di ricostruire ogni decisione.
Se l’Alleanza riuscirà a trasformare i propri progetti in standard adottati dal mercato, potrebbe ridurre la frammentazione e offrire una base comune sulla quale aziende diverse possano costruire prodotti interoperabili.
Il rischio è che l’iniziativa si trasformi in una raccolta di progetti difficili da integrare o governare. La presenza di molti partner rappresenta un punto di forza, ma può rendere più complesso definire priorità, responsabilità e processi decisionali.
L’impatto: trasparenza, sovranità e minore dipendenza dai fornitori
Per imprese e amministrazioni pubbliche, uno stack aperto per la sicurezza degli agenti può offrire tre vantaggi.
Il primo è la trasparenza: codice e procedure possono essere sottoposti a verifiche indipendenti. Il secondo è il controllo dei dati, perché i modelli possono essere eseguiti su infrastrutture locali. Il terzo è la riduzione del rischio di dipendere da un unico fornitore.
Questo aspetto assume particolare importanza nei settori regolamentati e nelle infrastrutture critiche. Banche, ospedali, governi, aziende energetiche e operatori delle telecomunicazioni potrebbero non poter trasferire dati sensibili verso servizi esterni durante un incidente.
La possibilità di eseguire strumenti difensivi avanzati sotto il proprio controllo diventa quindi una questione di resilienza e sovranità tecnologica.
L’apertura, tuttavia, non deve essere confusa con l’assenza di regole. Per rendere affidabile l’ecosistema serviranno firme digitali, processi di revisione, benchmark condivisi, simulazioni di attacco, red teaming e responsabilità chiare nella gestione delle vulnerabilità.
La sfida dell’Alleanza sarà dimostrare che la collaborazione aperta può aumentare la sicurezza senza facilitare la diffusione incontrollata di capacità offensive.
Una sicurezza capace di resistere all’esame pubblico
Il principio alla base della Open Secure AI Alliance è che la sicurezza non debba dipendere esclusivamente dall’opacità. Un sistema realmente robusto dovrebbe riuscire a resistere anche quando architettura, strumenti e procedure possono essere sottoposti all’analisi della comunità.
L’iniziativa rappresenta quindi una scommessa sul modello che ha permesso all’open source di diventare una componente essenziale dell’economia digitale: moltiplicare il numero di persone in grado di individuare i problemi, verificare le soluzioni e contribuire alle correzioni.
Resta da capire se una coalizione così ampia riuscirà a produrre tecnologie concretamente adottabili e standard comuni. Ma il problema che tenta di affrontare è destinato a diventare centrale: chi controllerà gli strumenti utilizzati per proteggere gli agenti autonomi e chi potrà verificarne realmente il funzionamento?
