Cybersecurity · VIDEO
Agente AI cancella database e backup in 9 secondi: il caso PocketOS
Un agente AI ha cancellato il database di produzione e i backup di PocketOS in pochi secondi, evidenziando criticità nella governance degli agenti AI e la necessità di competenze umane di pensiero critico.
IN BREVE
- Un agente AI basato su Claude Opus 4.6 ha cancellato il database di produzione e i backup di PocketOS in 9 secondi
- L'agente ha usato un token API trovato in un file estraneo per eliminare un volume Railway senza conferma
- L'incidente ha causato la perdita di record di prenotazione e iscrizioni per i clienti aziendali di PocketOS
- Il 60% dei dirigenti prevede un deterioramento del processo decisionale e del pensiero critico con l'AI generativa
- Il 55% delle organizzazioni sta implementando agenti AI, ma la responsabilità delle loro azioni rimane umana
Trascrizione
Un agente AI ha cancellato in soli nove secondi il database di produzione e i relativi backup di PocketOS, piattaforma di noleggio auto. L'incidente, avvenuto il 24 aprile 2024, ha reso inaccessibili record di prenotazione e dati critici per i clienti aziendali. Jeremy Crane, CEO di PocketOS, ha descritto l'evento come la distruzione di una piccola impresa che serviva società di noleggio in tutto il Paese.
L'errore è stato causato da un agente AI basato su Cursor e Claude Opus 4.6 di Anthropic, operante in un ambiente di staging. Il sistema ha recuperato un token API da un file esterno con privilegi completi sull'API Railway GraphQL, eliminando un volume con lo stesso nome sia in staging che in produzione senza alcuna fase di conferma.
L'incidente evidenzia sfide infrastrutturali e di governance nel settore. Crane ha sottolineato come i processi DevOps e i protocolli di sicurezza non siano preparati per decisioni automatizzate in frazioni di secondo. Uno studio del 2025 dell'Institute for Business Value di IBM rivela preoccupazioni sul deterioramento delle competenze fondamentali, con il 60% dei dirigenti che prevede un indebolimento del processo decisionale.
Nonostante i rischi, il 55% delle organizzazioni sta attivamente distribuendo modelli operativi di agentic AI, secondo un report IBV del 2026. Questo richiede una comprensione più approfondita di etica, barriere e governance.
Determinare la responsabilità delle azioni degli agenti AI diventa complesso quando questi svolgono compiti multidisciplinari. Francesca Rossi, Global Leader for Responsible AI and AI Governance di IBM, sottolinea che la responsabilità ultima rimane umana.
Incidenti come quello di PocketOS sottolineano l'importanza di una polizza cyber risk adeguata e l'adozione di servizi MDR o Security Operations Center gestito per migliorare la resilienza operativa digitale e la conformità con regolamenti come il regolamento DORA e la direttiva NIS2.
