L'AI Shared Responsibility Model: una nuova sfida per la sicurezza

Per quindici anni, il modello di responsabilità condivisa ha svolto un ruolo cruciale nel contesto del cloud computing, permettendo di rispondere alla domanda "Chi è responsabile di questo controllo?". Questo approccio ha evitato due criticità principali: il controllo che nessuno presidia perché ciascuno presume che lo faccia l'altro e il controllo presidiato due volte in modo irrazionale.

Tuttavia, l'avvento dell'intelligenza artificiale generativa (Generative AI) ha introdotto nuove complessità. Quando un'organizzazione integra un Large Language Model (LLM) nei propri processi, affida a un componente probabilistico la capacità di interpretare input in linguaggio naturale e di produrre contenuti, codice o azioni. Le proprietà che rendono questi sistemi utili sono le stesse che ne complicano la messa in sicurezza.

Le nuove sfide della Generative AI

Il comportamento degli LLM è adattivo, l'output varia, le fonti dei dati cambiano, aumentando l'autonomia e la superficie d'attacco in modi difficili da prevedere. Le conseguenze per il modello di responsabilità sono chiare: non basta adattare la tabella dello schema IaaS/PaaS/SaaS, ma è necessario riconoscere che l'AI introduce categorie di rischio che nel software tradizionale non esistevano e che devono essere assegnate esplicitamente.

Il modello a tre layer di Microsoft

La trasposizione più nota e operativamente utile di questo modello è quella formalizzata da Microsoft, che scompone un'applicazione AI in tre layer funzionali, ciascuno dei quali raggruppa attività la cui sicurezza ricade, di norma, su chi le esegue.

  • AI Platform: Il layer che fornisce alle applicazioni le capacità di AI. Qui risiedono il modello, i dati di addestramento e le configurazioni che ne modificano il comportamento. Il sistema di sicurezza a questo livello è basato sulla presenza di un safety system che filtra gli input potenzialmente nocivi diretti al modello e i contenuti pericolosi che il modello potrebbe produrre in uscita.
  • AI Application: Il layer che fornisce il servizio o l'interfaccia che l'utente utilizza per accedere alle capacità del modello. La sicurezza è demandata a un application safety system che ispeziona in profondità il contenuto inviato nel metaprompt e le interazioni con plugin, data connector e altre applicazioni.
  • AI Usage: Il layer che descrive come le capacità di AI vengono concretamente consumate. La sicurezza qui è simile a quella di qualunque sistema informatico, con un'enfasi maggiore sulla formazione degli utenti.

La gestione del rischio

Il primo passo per costruire il modello di responsabilità condivisa nell'AI è la mappatura dei tre layer citati. Questo consente di definire le nuove responsabilità, spesso aree inesplorate nell'ambito del software tradizionale. Le organizzazioni, in questa fase, commettono spesso errori nell'attribuzione delle responsabilità.

l'AI non sposta semplicemente le responsabilità verso il provider, ma le moltiplica e alcune restano in capo all'organizzazione, a prescindere dal modello adottato. È opportuno minimizzare la percentuale di responsabilità finché non si è in grado di sostenerla.

L'impatto sul mercato e le sfide operative

L'adozione dell'AI Shared Responsibility Model sta trasformando radicalmente il panorama della cybersecurity aziendale. Secondo un recente rapporto di Gartner, entro il 2026 il 40% delle organizzazioni che implementano soluzioni AI subirà incidenti di sicurezza legati a responsabilità mal definite. Questo fenomeno è particolarmente evidente nei settori altamente regolamentati come la sanità e la finanza, dove le normative richiedono una tracciabilità precisa delle decisioni automatizzate.

Le aziende stanno affrontando numerose sfide operative nella transizione verso questo nuovo paradigma. Un'indagine condotta da ENISA ha rivelato che il 65% delle organizzazioni intervistate ha riscontrato difficoltà nella mappatura dei tre layer proposti da Microsoft, soprattutto a causa della mancanza di competenze interne specializzate in AI security. Molte aziende stanno rispondendo investendo in formazione mirata per i team IT e collaborando con fornitori di soluzioni che offrono servizi di assessment delle responsabilità.

Il ruolo dei framework normativi

La complessità del modello AI Shared Responsibility richiede un approccio strutturato basato su framework normativi. Il NIST AI Risk Management Framework (AI RMF) fornisce una guida completa per identificare, valutare e mitigare i rischi associati all'implementazione di sistemi AI. Questo framework integra i principi del modello di responsabilità condivisa, offrendo una metodologia per allineare le pratiche di sicurezza con i requisiti normativi.

In Europa, l'entrata in vigore dell'AI Act sta accelerando l'adozione di questi standard. L'articolo 28 del regolamento impone ai fornitori di sistemi ad alto rischio di documentare chiaramente la suddivisione delle responsabilità tra provider e utenti finali. Le aziende che operano nel Vecchio Continente devono quindi adattare le proprie politiche di sicurezza per garantire la conformità con queste nuove disposizioni.

Strategie per la gestione del rischio

Per implementare efficacemente il modello AI Shared Responsibility, le organizzazioni dovrebbero adottare un approccio graduale. Un primo passo cruciale è condurre un'analisi dettagliata del proprio ecosistema AI, identificando tutti i componenti che richiedono protezione e le relative superfici di attacco. Questo processo richiede la collaborazione tra team di sicurezza, sviluppatori di software e stakeholder aziendali.

Una strategia efficace prevede l'adozione di soluzioni di sicurezza integrate che coprano tutti e tre i layer del modello. Per esempio, nel layer AI Platform, è fondamentale implementare sistemi di filtraggio avanzati per prevenire attacchi basati su prompt injection. Nel layer AI Application, le organizzazioni dovrebbero adottare strumenti di monitoraggio in tempo reale per rilevare comportamenti anomali nei sistemi agentici. Infine, nel layer AI Usage, la formazione continua del personale è essenziale per prevenire errori umani che potrebbero compromettere la sicurezza.

Tendenze future e opportunità

L'evoluzione del modello AI Shared Responsibility sta aprendo nuove opportunità per il mercato della cybersecurity. Le aziende stanno sviluppando soluzioni innovative per automatizzare la gestione delle responsabilità, come piattaforme che generano automaticamente report di compliance e strumenti di audit per verificare l'allineamento con i framework normativi. Questa tendenza potrebbe portare a una riduzione dei costi operativi e a un miglioramento dell'efficienza nella gestione del rischio.

Un'altra tendenza emergente è l'adozione di approcci basati su zero trust per l'AI. Questo modello di sicurezza, che richiede la verifica continua di tutte le interazioni, è particolarmente adatto per proteggere i sistemi agentici che operano in ambienti dinamici. Le organizzazioni che implementano zero trust per l'AI possono ridurre significativamente il proprio rischio espositivo, migliorando al contempo la resilienza complessiva.

L'AI Shared Responsibility Model rappresenta una svolta fondamentale nella gestione della sicurezza informatica. Le organizzazioni che adottano questo approccio strutturato possono non solo proteggere le proprie infrastrutture AI, ma anche trarre vantaggio dalle opportunità offerte da questa tecnologia rivoluzionaria. Tuttavia, il successo dipenderà dalla capacità di adattarsi a un panorama normativo in rapida evoluzione e di sviluppare le competenze necessarie per gestire i nuovi rischi introdotti dall'AI.

Per approfondire ulteriormente questi temi, è consigliabile consultare le risorse disponibili sui siti di Cybersecurity360 e i framework specifici come il OWASP Top 10 for LLM.

Risorse aggiuntive

Nota Editoriale e Disclaimer

Le guide e i contenuti pubblicati su GoYou sono frutto di attività di ricerca e analisi indipendente, a scopo informativo, educativo e di approfondimento.

GoYou non costituisce una testata giornalistica né un prodotto editoriale ai sensi della Legge n. 62/2001 e non svolge attività di informazione in tempo reale.

Il progetto GoYou non fornisce consulenza professionale, tecnica, legale o finanziaria e declina ogni responsabilità per l’uso improprio delle informazioni pubblicate.

Nel settore Crypto, ogni investimento comporta rischi: si invita il lettore a informarsi sempre in modo autonomo prima di assumere qualsiasi decisione.