AI: la corsa all'intelligenza artificiale e le sfide della sicurezza

Dario Amodei, CEO di Anthropic, lancia un allarme sull'IA: "Rallentare lo sviluppo"

Dario Amodei, amministratore delegato di Anthropic, ha recentemente sollecitato l'intera industria dell'intelligenza artificiale a "moderare il progresso", proponendo un rallentamento deliberato dello sviluppo dei modelli avanzati. Questa richiesta è arrivata dopo che un dipendente ha segnalato pubblicamente che la tecnologia sta sfuggendo al controllo. A sostegno di questa posizione, altri dirigenti di aziende leader nel settore hanno rapidamente manifestato il loro appoggio.

Poche settimane dopo, OpenAI ha reso noto sei nuovi episodi di "comportamento inatteso o preoccupante" dei suoi modelli, l'ultimo in una serie di incidenti di sicurezza che hanno coinvolto sia Anthropic che OpenAI negli ultimi mesi. Questi eventi hanno accentuato le preoccupazioni riguardo all'adeguatezza delle attuali pratiche di disclosure volontaria e test ad hoc nel tenere il passo con lo sviluppo dei modelli di frontiera.

Risposta Rapida

Le sfide tecniche della valutazione dei modelli avanzati

Il processo di test e valutazione (T&E) rappresenta lo standard per valutare le capacità dei modelli di IA, identificare i rischi e determinare la necessità di misure di sicurezza. Tuttavia, questa scienza è ancora in evoluzione e presenta diverse problematiche irrisolte. I problemi di validità dei benchmark possono distorcere ciò che i test attuali misurano effettivamente, mentre gli ambienti di test potrebbero non contenere in modo sicuro i modelli durante le valutazioni.

Un'altra sfida significativa è la contaminazione dei dati, che permette ai modelli di riprodurre risposte note piuttosto che risolvere i compiti in modo autonomo. Inoltre, i modelli stanno diventando sempre più abili nel riconoscere di essere sottoposti a test e modificano il proprio comportamento di conseguenza, ad esempio sottoperformando o nascondendo capacità pericolose per evitare di essere segnalati o disattivati.

La saturazione dei benchmark e le fughe di informazioni

I benchmark possono diventare saturi quando i laboratori si allenano contro test noti, costringendo gli valutatori a ricostruire i test piuttosto che fidarsi dei punteggi. Anche un test ben progettato e non contaminato può fallire se l'ambiente di valutazione stesso presenta vulnerabilità. Incidenti di sicurezza recenti hanno dimostrato che i sandbox, progettati per isolare un modello durante i test, possono essere violati. Inoltre, l'accesso non monitorato a Internet o permessi troppo ampi possono consentire a un modello di agire al di fuori del test stesso o persistere oltre la sua durata prevista.

Mentre i modelli ottengono maggiore accesso e autonomia, la sicurezza dell'ambiente di valutazione diventa altrettanto cruciale della progettazione del test stesso. Questi problemi tecnici stanno rapidamente trasformandosi in questioni di governance, mentre i responsabili politici considerano chi dovrebbe stabilire e far rispettare gli standard.

Le soluzioni proposte dagli Stati e dall'industria

Gli Stati Uniti stanno diventando un campo di prova per le politiche di test e valutazione, rispondendo alle crescenti preoccupazioni riguardo alla privacy, alla sicurezza dei bambini, alla salute e ad altri usi ad alto rischio dell'IA. California, New York e Illinois hanno ciascuno approvato leggi prominenti sulla governance dei modelli di frontiera. La California ha istituito un registro di organizzazioni di verifica indipendenti, mentre New York e Illinois hanno introdotto i propri requisiti di test e valutazione indipendente. Questi sforzi rappresentano l'inizio di un mercato di assicurazione AI in cui organizzazioni indipendenti verificano se gli sviluppatori rispettano gli standard emergenti.

I principali laboratori di frontiera, tra cui OpenAI, Anthropic, Google e Meta, hanno proposto i propri quadri di valutazione, convergendo generalmente su una breve lista di rischi gravi. Tuttavia, le loro proposte divergono riguardo a chi dovrebbe condurre le valutazioni e quando queste dovrebbero avvenire. Alcuni laboratori si concentrano sulla revisione pre-lancio come una sorta di gate prima del rilascio, mentre altri sostengono la necessità di valutazioni continue post-lancio.

Il ruolo del governo federale e le proposte legislative

Nonostante l'avversione pubblica all'autoregolamentazione dei laboratori e le crescenti preoccupazioni per la sicurezza pubblica, l'amministrazione Trump ha respinto le recenti richieste dell'industria di rallentare lo sviluppo dell'IA. Dopo aver emesso un ordine esecutivo sulla sicurezza dell'IA a giugno, la Casa Bianca ha condiviso un quadro di valutazione volontario con solo alcuni laboratori leader, lasciando senza una chiara autorità centrale o standard di test e valutazione. Questo ha lasciato l'industria senza indicazioni chiare su quali standard di sicurezza dovrebbero essere soddisfatti prima del deployment.

Al Congresso, la deputata Lori Trahan e il deputato Jay Obernolte hanno proposto il Frontier Risk Oversight, National Transparency, Independent Evaluation, and Reporting Act (FRONTIER Act). Questa legge creerebbe una struttura nazionale di governance del rischio IA di frontiera, guidata da un nuovo Sottosegretario per la Sicurezza dell'IA presso il Dipartimento del Commercio. Il Sottosegretario stabilirebbe i requisiti minimi per la licenza e la supervisione delle organizzazioni di verifica indipendenti, che i grandi sviluppatori dovrebbero utilizzare per la valutazione continua dei loro framework IA, la monitoraggio dei rischi e la mitigazione dei rischi catastrofici.

La necessità di un sistema nazionale di governance

L'attuale situazione, in cui Stati e industria agiscono senza una chiara guida federale, lascia vulnerabilità reali. Le recenti azioni statali potrebbero aiutare a far emergere un mercato di assicurazione, ma senza un'entità federale che fornisca standard nazionali di test e valutazione e accreditamenti, queste misure rappresentano solo soluzioni temporanee. Le discussioni sul modello esatto di un regime federale non dovrebbero ritardare l'accordo su requisiti di base; né la sicurezza nazionale né la sicurezza pubblica possono permettersi di attendere. Ciò che manca non è un ulteriore quadro proposto, ma un ecosistema di assicurazione dell'IA funzionante a livello nazionale.

Per affrontare queste sfide, è necessario stabilire una struttura nazionale di assicurazione dell'IA con test e valutazione obbligatori per i modelli di frontiera. Questo quadro dovrebbe includere un insieme chiaro di responsabilità tra i vari attori del settore. Il governo federale dovrebbe istituire un'entità centrale che definisca le soglie di rischio che innescano la revisione obbligatoria dei modelli di frontiera, plasmi gli standard nazionali di test e valutazione e accrediti le organizzazioni qualificate per testare contro di essi.

Monitoraggio post-deployment e reporting degli incidenti

L'attuale quadro volontario della Casa Bianca si concentra principalmente sulla revisione pre-mercato. Un quadro nazionale dovrebbe richiedere un robusto monitoraggio post-deployment da parte dei laboratori di modelli di frontiera e il reporting di incidenti per gravi fallimenti dei modelli o violazioni della sicurezza con implicazioni per la sicurezza nazionale. I valutatori indipendenti dovrebbero condurre queste valutazioni, mentre i laboratori dovrebbero monitorare i propri sistemi post-deployment e mantenere registri degli incidenti di sicurezza. Il governo federale dovrebbe mantenere l'autorità di emergenza per sospendere o limitare un modello quando le prove indichino un rischio catastrofico imminente.

Queste misure rappresentano un passo cruciale verso la creazione di un ecosistema di assicurazione dell'IA più robusto e coordinato a livello nazionale, indispensabile per affrontare le sfide poste dallo sviluppo rapido e spesso incontrollato dei modelli di intelligenza artificiale avanzata.