Anthropic introduce Enterprise Frontier Safeguards per la sicurezza dei dati bancari

Anthropic ha lanciato Enterprise Frontier Safeguards, una soluzione che permette alle banche di mantenere i log di utilizzo di Claude nei propri ambienti cloud, sotto il controllo dei clienti. Questo annuncio arriva dopo mesi di collaborazione con il Analysis and Resilience Center for Systemic Risk, che include i CISO di Goldman Sachs, Morgan Stanley, Citi, Bank of America e Wells Fargo. Il sistema risolve un problema critico per le istituzioni finanziarie: garantire che i dati sensibili rimangano sotto il controllo dei clienti, con chiavi di crittografia e politiche di accesso gestite internamente.

Risposta Rapida

  • Enterprise Frontier Safeguards permette alle banche di conservare i log di utilizzo di Claude nei propri account cloud (Amazon S3, Azure Blob Storage, Google Cloud Storage)
  • I dati sono protetti dalle chiavi di crittografia e dalle politiche di accesso del cliente
  • Le segnalazioni di potenziale abuso vengono inviate ai team di sicurezza del cliente, senza che Anthropic acceda ai dati
  • Il sistema è stato progettato con input da oltre 100 clienti, tra cui le principali banche e aziende USA
  • La soluzione sarà disponibile per Claude Code, Claude Enterprise, e altre piattaforme, con rollout completo previsto per la fine dell'anno

Architettura di sicurezza: i dati rimangono sotto controllo del cliente

Il cuore di Enterprise Frontier Safeguards è la gestione completa dei dati da parte del cliente. I log di attività utilizzati per la rilevazione di abusi vengono conservati nei sistemi cloud del cliente (Amazon S3, Azure Blob Storage o Google Cloud Storage), protetti dalle chiavi di crittografia e dalle politiche di accesso del cliente stesso. Quando i sistemi automatizzati rilevano potenziali abusi, le segnalazioni vengono inviate direttamente ai team di sicurezza del cliente, senza che alcun dipendente di Anthropic acceda ai dati.

Questa architettura risolve un problema critico per le istituzioni finanziarie: la necessità di mantenere il controllo completo sui dati sensibili. Prima di questa soluzione, l'integrazione di modelli avanzati come quelli di Anthropic richiedeva di notificare i clienti, rinegoziare i contratti e soddisfare complesse normative interne sulla conservazione di materiali sensibili.

Evoluzione delle politiche di conservazione dei dati

Anthropic ha modificato la propria politica di conservazione dei dati per rispondere alle esigenze di sicurezza delle aziende regolamentate. In precedenza, l'azienda offriva la "zero data retention", dove promozioni e risposte venivano analizzate e immediatamente eliminate. Tuttavia, questa approccio si è rivelato inefficace per rilevare abusi sofisticati che si estendono su più sessioni e account.

Con l'introduzione di Enterprise Frontier Safeguards, Anthropic ha adottato una finestra di conservazione di 30 giorni per i dati di attività. Questo periodo permette ai sistemi automatizzati di analizzare schemi di abuso complessi, come tentativi di sviluppare capacità offensive cibernetiche o biologiche, o l'uso di credenziali rubate. L'azienda sottolinea che, sebbene 30 giorni sia il periodo attualmente implementato, questa scelta non è legata a un requisito matematico specifico, ma piuttosto a un compromesso tra efficacia nella rilevazione e minimizzazione della conservazione dei dati.

Rilevamento degli abusi: credenziali rubate e comportamenti autonomi

Il sistema di monitoraggio automatizzato analizza un finestra scorrevole di traffico per rilevare segnali di abuso serio. Tra i casi di particolare interesse c'è l'uso di credenziali rubate. Questi attacchi sono particolarmente difficili da rilevare perché singole richieste possono apparire normali, ma schemi anomali emergono solo analizzando il traffico nel tempo.

Anthropic ha anche osservato casi di agenti autonomi che si impegnano in comportamenti distruttivi, un fallimento distinto dall'abuso da parte di utenti umani. Questi scenari richiedono un monitoraggio continuo per essere identificati, rendendo cruciale la conservazione dei dati per un periodo significativo.

Design collaborativo con oltre 100 aziende

Enterprise Frontier Safeguards è il risultato di un processo di design collaborativo che ha coinvolto oltre 100 clienti, tra cui un quarto delle aziende Fortune 100 e tutte le principali banche sistemiche degli Stati Uniti. Tra i partecipanti ci sono nomi come Comcast, KPMG, Mastercard, Salesforce e Visa. Questo gruppo self-selected di grandi clienti ha fornito feedback preziosi per modellare la soluzione finale.

Munish Kumar Sharma, CISO di Wells Fargo, ha dichiarato che Enterprise Frontier Safeguards fornisce esattamente ciò che il settore finanziario richiedeva: il controllo completo sui dati sensibili mentre Anthropic gestisce i sistemi di rilevazione. Questa separazione consente alle istituzioni finanziarie di utilizzare modelli avanzati in modo sicuro, rispettando al contempo gli obblighi verso clienti, dipendenti e regolatori.

Disponibilità e integrazione con le principali piattaforme

Enterprise Frontier Safeguards sarà disponibile per diverse versioni di Claude, tra cui Claude Code e Claude Enterprise, nonché per piattaforme cloud come Amazon Bedrock, Google’s Agent Platform e Microsoft Foundry. I clienti potranno attivare le funzionalità di conservazione dei dati nei propri account cloud, gestione delle chiavi di crittografia e revisione completamente automatizzata come opzioni separate.

Il rollout avverrà in fasi, con disponibilità generale prevista per la fine dell'anno. Fino ad allora, i clienti idonei continueranno a beneficiare della zero data retention su Fable 5 e Fable 5.1. Anthropic non addebita costi aggiuntivi per Enterprise Frontier Safeguards; i clienti pagheranno solo i costi di archiviazione e accesso ai propri fornitori di cloud, esattamente come per qualsiasi altra risorsa.

Impatti sul settore finanziario e oltre

La nuova soluzione di Anthropic rappresenta un punto di svolta non solo per il settore finanziario, ma anche per altre industrie altamente regolamentate come quella sanitaria e farmaceutica. Le aziende operanti in questi settori devono affrontare normative severe riguardanti la gestione dei dati sensibili, tra cui informazioni sanitarie protette (PHI) e dati clinici. Enterprise Frontier Safeguards consente a queste organizzazioni di utilizzare modelli linguistici avanzati senza compromettere la conformità normativa, offrendo un equilibrio tra innovazione e sicurezza dei dati. Per le istituzioni finanziarie, la capacità di mantenere il controllo totale sui dati è cruciale per soddisfare gli obblighi verso clienti, dipendenti e regolatori. Ad esempio, le banche devono garantire che i dati sensibili dei clienti non siano esposti a terze parti non autorizzate. Con Enterprise Frontier Safeguards, le banche possono ora utilizzare modelli linguistici avanzati per migliorare l'efficienza operativa e la gestione del rischio, sapendo che i loro dati rimangono sotto il loro controllo.

Implicazioni per la cybersecurity e la gestione del rischio

Uno degli aspetti più significativi di Enterprise Frontier Safeguards è il suo potenziale per migliorare la cybersecurity nelle grandi organizzazioni. L'analisi dei dati di attività su una finestra di 30 giorni consente di rilevare schemi complessi di abuso che potrebbero passare inosservati con approcci più tradizionali. Questo è particolarmente rilevante per il rilevamento di credenziali rubate, un problema crescente per molte aziende. Le credenziali rubate possono essere utilizzate per accedere a sistemi interni e rubare dati sensibili, o per commettere frodi finanziarie. Con l'analisi continua del traffico, le aziende possono identificare comportamenti anomali che indicano l'uso di credenziali compromesse, permettendo loro di rispondere tempestivamente e mitigare i danni potenziali. Inoltre, la capacità di rilevare agenti autonomi che si impegnano in comportamenti distruttivi offre un ulteriore livello di protezione contro minacce emergenti.

Considerazioni etiche e di privacy

Mentre Enterprise Frontier Safeguards offre significativi vantaggi in termini di sicurezza e conformità, solleva anche importanti considerazioni etiche e di privacy. La conservazione dei dati di attività per un periodo di 30 giorni, sebbene necessario per il rilevamento degli abusi, richiede un'attenta gestione per garantire che i dati sensibili non siano esposti a rischi inutili. Le aziende devono implementare misure di sicurezza robuste per proteggere i dati conservati e garantire che siano accessibili solo a personale autorizzato. Inoltre, è fondamentale che le aziende comunichino chiaramente con i loro clienti e dipendenti riguardo alla conservazione e all'uso dei dati, per mantenere la fiducia e la trasparenza.

Il futuro dei modelli linguistici avanzati nelle aziende

L'introduzione di Enterprise Frontier Safeguards rappresenta un passo significativo verso l'adozione più ampia di modelli linguistici avanzati nelle grandi organizzazioni. Man mano che le aziende diventano più consapevoli dei rischi associati all'uso di queste tecnologie, soluzioni come quella di Anthropic diventeranno sempre più cruciali per garantire un uso sicuro ed efficace. In futuro, possiamo aspettarci che altre aziende sviluppino soluzioni simili per affrontare le esigenze di sicurezza e conformità dei loro clienti. Inoltre, l'integrazione di queste tecnologie con altre piattaforme e servizi cloud aprirà nuove opportunità per l'innovazione e l'efficienza operativa. Tuttavia, sarà essenziale che queste soluzioni siano progettate con un approccio centrato sull'utente, tenendo conto delle specifiche esigenze e dei vincoli delle diverse industrie.

Nota Editoriale e Disclaimer

Le guide e i contenuti pubblicati su GoYou sono frutto di attività di ricerca e analisi indipendente, a scopo informativo, educativo e di approfondimento.

GoYou non costituisce una testata giornalistica né un prodotto editoriale ai sensi della Legge n. 62/2001 e non svolge attività di informazione in tempo reale.

Il progetto GoYou non fornisce consulenza professionale, tecnica, legale o finanziaria e declina ogni responsabilità per l’uso improprio delle informazioni pubblicate.

Nel settore Crypto, ogni investimento comporta rischi: si invita il lettore a informarsi sempre in modo autonomo prima di assumere qualsiasi decisione.