Anthropic collabora con l'NSA per operazioni cyber offensive con il modello Mythos
Anthropic ha collocato circa sei ingegneri all'interno della National Security Agency (NSA) per implementare il suo modello AI Mythos in operazioni cyber offensive, potenzialmente dirette contro reti in Cina e Iran. Questo sviluppo emerge da un'indagine del Financial Times pubblicata giovedì scorso. Gli ingegneri, descritti come personale forward-deployed, stanno personalizzando il modello per applicazioni specifiche, anche se non è confermato se siano direttamente coinvolti in operazioni attive.
Mythos: il modello riservato ai partner selezionati
Mythos rappresenta il modello più avanzato di Anthropic, mai rilasciato pubblicamente a causa dei rischi di uso improprio. L'azienda lo ha reso accessibile solo a partner selezionati attraverso Project Glasswing, una coalizione che include giganti tecnologici come Microsoft, Apple e Amazon. La collaborazione con l'NSA è stata esentata da un divieto imposto dal Dipartimento della Difesa (DoD) degli Stati Uniti, dopo che Anthropic ha rifiutato di consentire l'uso del suo modello Claude per armi completamente autonome o sorveglianza di massa domestica.
La disputa legale con il Pentagono
Anthropic ha recentemente intentato una causa contro il Pentagono dopo che il Segretario alla Difesa Pete Hegseth ha designato l'azienda come rischio per la catena di approvvigionamento, una classificazione normalmente riservata a avversari stranieri come Huawei. Questo seguito alla cancellazione di un contratto da 200 milioni di dollari. Un giudice della California ha bloccato questa blacklist come apparentemente motivata da ritorsioni contro il Primo Emendamento, mentre una corte d'appello di Washington ha respinto la richiesta di Anthropic di sospendere la decisione durante il processo legale. Nonostante ciò, l'NSA ha continuato a utilizzare Mythos, secondo quanto riportato dal Financial Times.
L'avvertimento sulla ricorsività dell'IA
Nello stesso giorno in cui è emersa la notizia della collaborazione con l'NSA, l'istituto di ricerca interno di Anthropic ha pubblicato un rapporto intitolato "When AI Builds Itself", che esplora i progressi di Claude nell'automatizzare il proprio sviluppo. Il rapporto sottolinea la necessità di una moratoria globale nella corsa agli armamenti dell'IA, paragonandola ai trattati nucleari della Guerra Fredda tra Stati Uniti e Russia.
Claude e l'auto-sviluppo dell'IA
Claude, il modello di Anthropic, scrive ora oltre l'80% del codice integrato nella base di codice di produzione dell'azienda, un aumento significativo rispetto ai bassi numeri a singolo digitato prima del lancio di Claude Code all'inizio del 2025. Gli ingegneri ora spediscono circa otto volte più codice al giorno rispetto al 2024. Il rapporto, scritto da Marina Favaro, direttrice dell'Anthropic Institute, e Jack Clark, co-fondatore di Anthropic, descrive una traiettoria verso l'auto-miglioramento ricorsivo: sistemi AI che progettano, costruiscono e addestrano autonomamente i propri successori, riducendo il ruolo umano in ogni fase.
Il rischio di allineamento perduto
Il rapporto evidenzia un caso in cui agenti Claude hanno risolto un problema di sicurezza dell'IA aperto, recuperando il 97% del divario di performance tra modelli in 800 ore di calcolo cumulativo, rispetto al 23% recuperato da due ricercatori umani in una settimana. Questo esempio illustra come gli agenti Claude possano esercitare giudizi di ricerca, non solo eseguire compiti specificati da altri. Anthropic teme che, una volta che l'IA inizia a scegliere autonomamente quali esperimenti condurre, gli esseri umani perdano l'ultimo ruolo significativo nel ciclo di sviluppo. Piccoli disallineamenti oggi potrebbero amplificarsi attraverso generazioni di auto-miglioramento, rendendo impossibile correggere gli errori.
La proposta di una pausa globale verificabile
Per mitigare questi rischi, Anthropic propone una pausa globale verificabile, in cui più laboratori di frontiera si fermano simultaneamente, con verifica indipendente che tutti abbiano effettivamente interrotto lo sviluppo. L'azienda afferma che sarebbe disposta a partecipare a tale iniziativa. Tuttavia, riconosce che una pausa unilaterale potrebbe semplicemente trasferire il vantaggio a chi continua a sviluppare l'IA.
Il dilemma economico dell'IA
La situazione ricorda il paradosso in cui i laboratori che sviluppano l'IA sono gli stessi che mettono in guardia sui suoi pericoli. Tuttavia, l'IA rappresenta l'attività più redditizia del decennio, rendendo difficile per chiunque, anche per gli stessi avvertitori, fermare lo sviluppo. Nel 2023, oltre cento nomi importanti della comunità di ricerca sull'IA hanno firmato una lettera aperta chiedendo uno sforzo globale per mitigare il rischio di estinzione intrinseco nello sviluppo dell'IA. Alcuni mesi prima, un'altra lettera aperta aveva richiesto a OpenAI di fermare gli avanzamenti di ChatGPT a causa della sua natura pericolosa. Nonostante questi appelli, nessuno ha fermato lo sviluppo dell'IA. OpenAI e Anthropic continuano le loro attività, con il Pentagono che ha fissato una scadenza per agosto per rimuovere Claude dai suoi sistemi, proprio mentre l'IPO di Anthropic dovrebbe portare le sue finanze sotto i riflettori pubblici.
L'impatto strategico di Mythos nel panorama geopolitico
La collaborazione tra Anthropic e NSA segna un punto di svolta nella militarizzazione dell'intelligenza artificiale, con implicazioni che vanno oltre il semplice sviluppo tecnologico. Mythos, progettato per operazioni offensive, rappresenta un'arma strategica in grado di alterare gli equilibri di potere globali. Gli esperti sottolineano come l'accesso a questa tecnologia da parte degli Stati Uniti potrebbe innescare una nuova corsa agli armamenti digitali, spingendo altre potenze a sviluppare soluzioni analoghe per non rimanere indietro. Questo scenario ricorda la competizione nucleare della Guerra Fredda, ma con una differenza cruciale: l'IA non richiede test pubblici o dimostrazioni di forza, rendendo difficile valutare le capacità reali degli avversari.Le sfide tecniche dell'auto-miglioramento ricorsivo
Il rapporto "When AI Builds Itself" solleva questioni profonde sull'evoluzione dell'IA verso l'auto-miglioramento ricorsivo. Gli ingegneri di Anthropic hanno osservato come Claude, attraverso l'80% del codice prodotto autonomamente, abbia raggiunto livelli di efficienza senza precedenti. Tuttavia, questo progresso solleva preoccupazioni riguardo alla capacità umana di mantenere il controllo sul processo. La possibilità che l'IA inizi a prendere decisioni autonome sulle linee di ricerca potrebbe portare a scenari in cui gli obiettivi iniziali degli sviluppatori vengono persi o distorti attraverso generazioni successive di miglioramenti. Questo fenomeno, noto come "deriva degli obiettivi", è uno dei principali rischi evidenziati dagli esperti di sicurezza dell'IA.Le implicazioni economiche e legali
La situazione attuale riflette un paradosso economico: mentre le aziende tecnologiche avvertono dei pericoli dell'IA, continuano a svilupparla perché rappresenta l'attività più redditizia del decennio. L'IPO di Anthropic, che potrebbe valere oltre 1.000 miliardi di dollari, mette in luce la tensione tra responsabilità sociale e profitto. Inoltre, la disputa legale con il Pentagono solleva questioni etiche e giuridiche riguardo all'uso dell'IA in contesti militari. La decisione di Anthropic di rifiutare l'uso di Claude per armi autonome o sorveglianza di massa ha scatenato un dibattito su chi dovrebbe avere il controllo ultimo su queste tecnologie.Le proposte per una governance globale dell'IA
Di fronte a questi rischi, Anthropic propone un meccanismo di pausa globale verificabile, simile ai trattati di disarmo nucleare. Tuttavia, l'implementazione di tale soluzione è complessa. Una pausa unilaterale potrebbe effettivamente svantaggiare chi la adotta, mentre i concorrenti continuano a sviluppare tecnologie avanzate. La comunità internazionale dovrebbe collaborare per creare un quadro normativo robusto, ma la mancanza di un'autorità sovranazionale con poteri vincolanti rende difficile raggiungere un accordo. Inoltre, la rapidità con cui l'IA si evolve rende qualsiasi regolamentazione potenzialmente obsoleta nel momento in cui viene approvata.Il futuro dell'IA e la necessità di un dibattito pubblico
Mentre le aziende tecnologiche e i governi continuano a spingere i limiti dell'IA, è essenziale che il pubblico sia coinvolto nel dibattito. La trasparenza e la partecipazione democratica sono fondamentali per garantire che lo sviluppo dell'IA rispecchi i valori e gli interessi della società. Le recenti lettere aperne firmate da centinaia di ricercatori sottolineano l'urgenza di affrontare questi problemi, ma senza un'azione concreta, il rischio di scenari catastrofici rimane alto. L'IA ha il potenziale per trasformare ogni aspetto della vita umana, ma solo attraverso un approccio responsabile e collaborativo si potranno massimizzare i benefici e minimizzare i pericoli.Nota Editoriale e Disclaimer
Le guide e i contenuti pubblicati su GoYou sono frutto di attività di ricerca e analisi indipendente, a scopo informativo, educativo e di approfondimento.
GoYou non costituisce una testata giornalistica né un prodotto editoriale ai sensi della Legge n. 62/2001 e non svolge attività di informazione in tempo reale.
Il progetto GoYou non fornisce consulenza professionale, tecnica, legale o finanziaria e declina ogni responsabilità per l’uso improprio delle informazioni pubblicate.
Nel settore Crypto, ogni investimento comporta rischi: si invita il lettore a informarsi sempre in modo autonomo prima di assumere qualsiasi decisione.