Open Secure AI Alliance: Guida SAFE e Framework Aperti per un'AI Sicura e Interoperabile

La Open Secure AI Alliance si espande a Black Hat con le linee guida SAFE e framework aperti

La Open Secure AI Alliance (OSAA) ha annunciato importanti novità durante la conferenza Black Hat USA, presentando le linee guida SAFE e framework aperti che offrono agli IT leader strumenti ispezionabili, costi di token inferiori e una roadmap chiara per l'IA sicura aziendale. Questa iniziativa rappresenta un passo significativo verso la creazione di difese AI aperte, ispezionabili e pronte per l'uso aziendale, in un momento in cui le squadre IT stanno cercando di trasformare progetti pilota in valore operativo.

Perché una stack di difesa AI aperta è importante

L'open source è da tempo il fulcro delle infrastrutture moderne, che spaziano dalle piattaforme cloud e di calcolo alla cybersecurity. L'OSAA applica lo stesso modello alla sicurezza dell'IA, impegnandosi a condividere modelli aperti, agenti, strumenti e dati che i difensori possono studiare, estendere e eseguire sulla propria infrastruttura.

L'argomento centrale dell'OSAA è che se la prossima generazione di cyberattacchi sarà alimentata dall'IA, anche la prossima generazione di difesa cybernetica dovrà esserlo. Questo significa che i difensori hanno bisogno di sistemi che possano realmente esaminare. Un recente incidente su Hugging Face ha evidenziato questa necessità: strumenti AI chiusi sono stati bloccati, impedendo analisi forensi essenziali e costringendo il team a fare affidamento su un modello GLM 5.2 a peso aperto, eseguito sulla propria infrastruttura, per analizzare oltre 17.000 azioni e contenere l'intrusione.

Chi fa parte dell'alleanza e perché è diverso

L'OSAA riunisce un ampio gruppo di attori che spaziano dal cloud alla cybersecurity, dal software aziendale alle fondazioni open source. Per le imprese, questo è importante perché segnala che la stack di difesa AI non sarà un prodotto verticale di un singolo fornitore, ma un ecosistema ancorato a standard e componenti aperti.

Tra i contributi dei fondatori, diversi evidenziano la profondità di questa stack:

• HPE sta contribuendo a SPIFFE/SPIRE, avanzando standard di identità zero-trust che possono verificare criptograficamente agenti e servizi AI prima che interagiscano con le risorse aziendali.
• Hugging Face ha introdotto Safetensors, un formato di peso del modello più sicuro che previene l'esecuzione di codice remoto e aumenta la trasparenza su come i modelli sono memorizzati e caricati.
• IBM e Red Hat con Lightwell estendono la sicurezza lungo la catena di approvvigionamento open source con patch firmate digitalmente, aiutando a chiudere le lacune nello strato software su cui si basano i sistemi AI.
• Microsoft con MDASH è un harness di scansione multi-modello e agent-based che utilizza agenti specializzati per scoprire, discutere e dimostrare l'esistenza di bug sfruttabili, piuttosto che fare affidamento su un singolo scanner opaco.

Questi componenti formano una stack di difesa aperta emergente per agenti AI che copre identità, isolamento, formati di modello sicuri, scansione multi-modello e flussi di lavoro di sviluppo sicuro. Per i leader IT, questo promette controlli coerenti in un ambiente multi-vendor, piuttosto che strumenti puntuali che non interoperano.

Nvidia, Cisco e il ruolo delle agent harness

Nvidia supporta l'alleanza non solo con modelli e pesi, ma anche con ricerche aperte su agent harness attraverso il framework Nvidia Labs Object-Oriented Agent (NOOA). NOOA inizia con un'osservazione chiave per i praticanti: la scelta del modello è solo metà dell'equazione; l'harness, l'architettura intorno al modello, può contare per oscillazioni a due cifre nelle prestazioni di benchmark e grandi differenze nei costi dei token, anche quando il modello sottostante rimane invariato.

In NOOA, un agente è rappresentato come una singola classe Python. I suoi metodi definiscono le capacità, i campi definiscono lo stato, le docstring servono come prompt e le annotazioni di tipo impongono contratti. Questo design fa sì che lo sviluppo degli agenti assomigli e si senta come l'ingegneria del software tradizionale: gli agenti possono essere diffusi, revisionati, unit-testati e tracciati con gli stessi strumenti che i team utilizzano per altri sistemi critici.

Per le imprese, questo è un cambiamento sottile ma importante, poiché trasforma l'IA agent-based da un "grafo di flusso di lavoro black box" in una superficie di codice testabile e audibile che i team di sicurezza e piattaforma possono governare.

NOOA identifica sei capacità di harness che influenzano materialmente le prestazioni del modello:

• Input e output tipizzati, in modo che le chiamate abbiano argomenti e restituzioni validati invece di testo libero.
• Semantica di passaggio per riferimento, in cui il modello opera su oggetti Python live e anteprime limitate invece di dump serializzati spinti nella finestra di contesto.
• Codice come azione, il che significa che il modello scrive Python che invoca metodi e flusso di controllo direttamente.
• Ingegneria di loop programmabile, con loop di orchestrazione espressi come Python ordinario che umani e modelli possono modificare.
• Stato di oggetto esplicito, mantenendo stato tipizzato duraturo sull'oggetto agente invece che solo nella cronologia della conversazione.
• API di harness richiamabili dal modello per blocchi di contesto e cronologia degli eventi, permettendo all'agente di ispezionare e gestire il proprio set di lavoro.

Per i professionisti IT, l'ingegneria delle harness è importante perché migliora l'efficienza. In SWE-bench, NOOA raggiunge pari o migliore accuratezza con circa la metà dei token delle harness di confronto, grazie principalmente al passaggio per riferimento e alla capacità di evitare pipeline di compattazione del contesto costose. Per le imprese che lottano con le curve di costo degli LLM, questa combinazione di maggiore accuratezza e minor consumo accelera direttamente il tempo di valore.

La presenza di Cisco nell'alleanza si basa sulla sua partnership più ampia con Nvidia in ambito di networking, data center AI fabrics e fabbriche di AI sicure. Cisco ha già impegnato tecnologie come Silicon One e SuperNICs specializzati in piattaforme di networking AI e sta avanzando l'infrastruttura AI sicura dal core all'edge con offerte come Cisco Secure AI Factory con Nvidia.

Aggiornamento Black Hat: Le linee guida SAFE e l'espansione dello stack aperto

In occasione della conferenza annuale Black Hat USA, la Open Secure AI Alliance ha annunciato un'importante nuova iniziativa per l'ecosistema. La Linux Foundation, in collaborazione con i membri dell'alleanza, ha pubblicato un Request for Comments (RFC) sulle linee guida Shared AI Findings Exchange (SAFE).

SAFE è progettato per trasformare incidenti di cybersecurity agent-based e "quasi incidenti" in protezione condivisa a livello aziendale. Invece di mantenere i dettagli delle violazioni sotto accordi di non divulgazione o confinati in ecosistemi di singoli vendor, SAFE fornisce un framework per:

• Raccogliere e analizzare in modo confidenziale incidenti di sicurezza AI, comportamenti errati degli agenti e eventi operativi "quasi incidenti".
• Informare rapidamente le parti interessate identificando contemporaneamente fallimenti di controllo ricorrenti in tempo reale.
• Pubblicare raccomandazioni operative basate su prove per ridurre il rischio sistemico per tutti i difensori.

Insieme al framework SAFE, i membri di OSAA stanno espandendo lo strato di software open source. Nvidia, ad esempio, ha introdotto Nvidia OpenShell, un runtime aperto che funge da sandbox a livello di agente. OpenShell limita ciò che un agente può vedere, toccare o eseguire, imponendo espliciti confini di sicurezza e privacy in modo che gli strumenti autonomi non possano accedere a sistemi o dati al di fuori del loro ambito designato.

Insieme, queste annunci di Black Hat sottolineano l'impegno dell'alleanza a fornire strumenti e framework che rendono l'IA più sicura e accessibile per le imprese.