Vulnerabilità AI: Chi Paga per i Danni Causati dall'Intelligenza Artificiale?

Quando l'AI rompe silenziosamente le cose, chi paga?

L'integrazione dell'intelligenza artificiale nelle operazioni aziendali sta portando nuove sfide nel settore assicurativo. David Halbreich, partner specializzato in recupero assicurativo presso Reed Smith, ha analizzato come le aziende di AI dovrebbero gestire le lacune di copertura che emergono man mano che il settore cresce.

La sfida delle "straddle claims" post-fusione

Uno dei problemi più comuni che Halbreich incontra riguarda le così dette "straddle claims", ovvero richieste di risarcimento che cadono tra la copertura retroattiva ("tail") e quella prospettica ("go-forward") dopo una fusione. Questo problema è particolarmente rilevante nel settore dell'AI, dove l'attività di fusione è intensa. Le polizze di responsabilità civile per amministratori e dirigenti (D&O) e le polizze di errori e omissioni (E&O) sono essenziali per le aziende di AI. Queste polizze sono tipicamente basate su "claims-made", il che significa che coprono le richieste di risarcimento presentate durante il periodo di copertura, a differenza delle polizze basate su "occurrence" che coprono i danni derivanti da un evento avvenuto durante il periodo di copertura, indipendentemente da quando viene presentata la richiesta.

Le lacune di copertura

Quando un'azienda target viene acquisita, è consuetudine ottenere una copertura di estensione del periodo di segnalazione (nota anche come copertura "tail" o "runoff") che prolunga la finestra durante la quale le richieste di risarcimento possono essere segnalate sotto la polizza. L'azienda acquirente procurerà generalmente una nuova polizza (spesso chiamata copertura "go-forward") che entra in vigore alla data di chiusura o intorno ad essa e è progettata per rispondere alle richieste di risarcimento derivanti da comportamenti verificatisi dopo la transazione. In teoria, questo framework sembra fornire una protezione continua per le responsabilità storiche (sotto la copertura tail) e per i comportamenti futuri (sotto la copertura go-forward). Tuttavia, problemi possono sorgere quando una richiesta di risarcimento non rientra chiaramente in uno dei due periodi. Le polizze tail spesso contengono clausole di esclusione ampie per richieste di risarcimento che coinvolgono qualsiasi comportamento successivo alla data di taglio, ma tali richieste potrebbero non essere coperte nemmeno dalla polizza go-forward, nella misura in cui coinvolgono anche comportamenti pre-fusione.

La questione delle rappresentazioni di governance

Gli underwriter stanno ora chiedendo documenti di governance come registri di test di bias, protocolli di human-in-the-loop, schede modello ed risultati di valutazione. Quando queste risposte vengono incorporate nella polizza per riferimento, in che momento una rappresentazione di governance smette di essere un input di sottoscrizione e diventa una condizione precedente o una garanzia che il vettore può utilizzare per negare una richiesta di risarcimento? Halbreich suggerisce che le parti interessate dovrebbero beneficiare dell'aggiunta di maggiore specificità. L'aggiunta di requisiti per la conoscenza/intenzione e la materialità delle dichiarazioni errate può evitare che l'incorporazione della domanda nella polizza diventi una garanzia rigorosa. Le parti interessate dovrebbero anche cercare limitazioni alle conseguenze delle dichiarazioni errate, con la copertura limitata solo a quegli individui coperti responsabili delle dichiarazioni errate, o limitata solo per l'azienda se certi individui identificati conoscevano la dichiarazione errata. Le parti interessate dovrebbero anche assicurarsi che la polizza specifichi che le dichiarazioni errate nella domanda non saranno motivo di rescissione dell'intera polizza.

La gestione delle domande sull'uso dell'AI

Le domande sull'uso dell'AI nelle domande di assicurazione sono spesso risposte da un responsabile del rischio che non conosce cosa ogni team di prodotto sta eseguendo. Come dovrebbe un'azienda costruire il processo interno per rispondere a queste domande e chi dovrebbe firmare? Halbreich sottolinea che questo è un problema che le organizzazioni hanno dovuto affrontare prima che sorgesse nel contesto dell'AI. L'aspetto iniziale per affrontare questa questione è semplicemente stabilire i protocolli necessari. Per l'uso dell'AI, potrebbero esserci politiche relative a quali agenti o prodotti specifici possono essere utilizzati, nei quali contesti possono essere utilizzati, quali informazioni possono essere fornite loro, ecc. Tuttavia, la vera sfida è far sì che tutti nell'organizzazione siano conformi e garantire che lo siano. Halbreich consiglia ai responsabili del rischio di istituire un processo organizzato diversi mesi prima della data di rinnovo del programma esistente che informi l'organizzazione del rinnovo imminente, sottolinei l'importanza del rinnovo per la comprensione dei diversi prodotti che l'azienda sta eseguendo e informi che la gestione del rischio seguirà con le singole squadre per ottenere un quadro il più completo possibile.

La degradazione del modello e le polizze claims-made

La degradazione del modello è graduale. Una polizza claims-made richiede un atto, un errore o un'omissione e una richiesta di risarcimento. Quando un cliente scopre diciotto mesi di output che si deteriorano silenziosamente, quando inizia l'orologio e come le disposizioni relative alle richieste di risarcimento aiutano o danneggiano l'assicurato in questo scenario? Halbreich spiega che sotto una polizza claims-made, un evento di copertura si verifica quando si verifica un atto, un errore o un'omissione e una richiesta di risarcimento viene presentata durante il periodo di copertura. Tuttavia, la degradazione del modello è un processo graduale e può essere difficile determinare esattamente quando si è verificato l'atto, l'errore o l'omissione che ha dato inizio alla degradazione. Questo può creare sfide per gli assicurati nel determinare quando presentare una richiesta di risarcimento e quando la copertura è disponibile. Halbreich sottolinea l'importanza per le aziende di comprendere appieno le loro polizze di assicurazione e le rappresentazioni che stanno certificando nelle domande di assicurazione. Non si dovrebbe firmare qualcosa solo perché si assume che sia "standard". Se quello che un assicuratore chiede è troppo ampio, o non è qualcosa che una persona può ragionevolmente attestare, l'azienda dovrebbe lavorare per modificare la rappresentazione in qualcosa di più ragionevole.