Cybersecurity · VIDEO
OpenAI e Anthropic propongono approcci diversi per la sicurezza dell'AI: chi decide?
OpenAI e Anthropic presentano strategie contrastanti per la regolamentazione dell'AI avanzata in California. OpenAI punta su controlli di spegnimento interni, mentre Anthropic propone l'intervento delle corti per sospensione immediata. Entrambe le aziende sostengono verifiche indipendenti e reporting esteso degli incidenti.
IN BREVE
- OpenAI e Anthropic divergono su chi dovrebbe gestire i rischi dei modelli AI avanzati: controlli interni vs. intervento giudiziario
- Anthropic propone che le corti possano sospendere modelli pericolosi su raccomandazione indipendente
- OpenAI suggerisce controlli di spegnimento obbligatori e modifiche alla legge californiana SB 53
- Entrambe le aziende sostengono verifiche indipendenti e reporting esteso degli incidenti
- Esperti sottolineano la necessità di meccanismi di spegnimento multipli e responsabilità contrattuali chiare
Trascrizione
OpenAI e Anthropic presentano approcci diversi per la gestione dei rischi dell'AI alla California. Entrambe le aziende concordano sulla necessità di un controllo più stringente sui sistemi AI avanzati, ma divergono sulle soluzioni concrete.
Anthropic propone poteri giudiziari per sospendere modelli pericolosi. Nella loro relazione, suggeriscono che il procuratore generale della California possa richiedere un'ingiunzione per bloccare lo sviluppo o l'uso di modelli a rischio, basandosi su valutazioni indipendenti.
OpenAI, invece, punta su meccanismi di shutdown controllati dagli sviluppatori. La società raccomanda modifiche alla Senate Bill 53 per imporre agli sviluppatori di mantenere controlli di shutdown efficaci e adattabili a diverse situazioni di rischio.
Entrambe le aziende concordano sull'importanza delle valutazioni indipendenti, ma con approcci differenti. Anthropic propone accesso completo ai modelli e ai dati interni per gli valutatori, finanziati attraverso un fondo statale. OpenAI distingue tra valutazioni tecniche e audit di conformità, suggerendo standard comuni sviluppati con il National Institute of Standards and Technology.
OpenAI evidenzia che un singolo interruttore di emergenza non è sufficiente. La società raccomanda un insieme di controlli di shutdown che includano l'interruzione di esecuzioni di training, l'isolamento di agenti AI, e la revoca di accessi a strumenti o reti.
Lo stato della California deve presentare raccomandazioni sulle modifiche alle leggi sulla sicurezza dell'AI entro il 16 novembre, in risposta all'ordine esecutivo del governatore Gavin Newsom del 18 settembre.
