L'AI genera dati falsi: Zero Trust diventa la nuova frontiera della sicurezza

ANALISI TECNICA

Secondo Gartner, l'aumento dei dati generati dall'intelligenza artificiale (IA), l'evoluzione delle normative e il rischio di collasso dei modelli linguistici di grandi dimensioni (LLM) stimoleranno l'adozione di approcci zero trust per la governance dei dati nei prossimi due anni.

L'azienda di analisi evidenzia come libri, repository di codice, articoli di ricerca e altre fonti inizieranno a contenere sempre più contenuti generati da IA. I futuri LLM che analizzeranno queste fonti saranno in pratica addestrati su output provenienti da modelli precedenti. Questo potrebbe accelerare un declino nella qualità e nell'accuratezza dei modelli, nonché un aumento di "hallucinations" (generazione di informazioni false) e di bias.

• Conseguenze:
• Aumento del rischio di dati non verificati.
• Diminuzione della qualità e dell'accuratezza dei modelli LLM.
• Maggiore probabilità di "hallucinations" e bias nei dati generati da IA.

In risposta a questo aumento di dati AI non verificati, Gartner prevede che fino alla metà delle organizzazioni globali si rivolgeranno a un approccio zero trust per la governance dei dati. I regolatori intensificheranno inoltre il loro controllo in questa area.

"Man mano che i contenuti generati dall'IA diventano più diffusi, le richieste normative per la verifica di dati 'privi di IA' sono previste intensificarsi in alcune regioni", afferma Wan Fui Chan, managing VP di Gartner. "In questo ambiente normativo in evoluzione, tutte le organizzazioni avranno bisogno della capacità di identificare e contrassegnare i dati generati dall'IA. Il successo dipenderà dalla disponibilità degli strumenti adeguati e da una forza lavoro qualificata in gestione delle informazioni e delle conoscenze, nonché da soluzioni di gestione dei metadati essenziali per la catalogazione dei dati."

Ecco come Gartner suggerisce alle organizzazioni di prepararsi a queste sfide:

• Nomina un leader dedicato alla governance dell'IA che lavori in stretta collaborazione con i team di dati e analisi (D&A) sulle politiche zero trust, la gestione del rischio dell'IA e la conformità.
• Creare team multifunzionali provenienti da sicurezza informatica, dati e analisi (D&A) e altre parti aziendali per condurre valutazioni dei rischi sui dati. Queste dovrebbero aiutare a identificare i rischi aziendali correlati ai dati generati dall'IA e determinare quali sono gestiti dalle politiche esistenti e quali richiedono nuove.
• Utilizzare le politiche e i framework di governance D&A esistenti, e aggiornare le politiche relative alla sicurezza, alla gestione dei metadati e all'etica per affrontare i nuovi rischi derivanti dai dati generati dall'IA.
• Adottare pratiche attive di gestione dei metadati che avvisano in tempo reale quando i dati sono obsoleti o richiedono una nuova certificazione. Questo aiuterà le organizzazioni a individuare rapidamente quando i sistemi aziendali critici potrebbero essere esposti a dati imprecisi o distorti.

Contesto: DI MERCATO/SICUREZZA

Secondo Gartner, la proliferazione di dati AI, l'evoluzione dei requisiti regolamentari e il rischio di un crollo dei modelli linguistici di grandi dimensioni (LLM) contribuiranno all'adozione di approcci zero trust nella governance dei dati nei prossimi due anni.

L'azienda di analisi ha avvertito che, man mano che libri, repository di codice, articoli di ricerca e altre fonti iniziano a contenere più contenuti generati da AI, i futuri LLM che analizzeranno queste fonti saranno in pratica addestrati sui risultati di modelli precedenti. Ciò potrebbe accelerare un declino nella qualità e nell'accuratezza dei modelli, nonché un aumento delle "hallucinazioni" e del pregiudizio.

In risposta all'aumento dei dati AI non verificati, Gartner prevede che fino alla metà delle organizzazioni globali si rivolgeranno a una governance dei dati zero trust. I regolatori intensificheranno inoltre la loro vigilanza in questa area, secondo l'analista.

"Man mano che i contenuti generati da AI diventano più diffusi, ci aspettiamo un'intensificazione dei requisiti regolamentari per la verifica dei dati 'senza AI' in alcune regioni", ha dichiarato Wan Fui Chan, managing VP di Gartner. "In questo ambiente regolamentare in evoluzione, tutte le organizzazioni avranno bisogno della capacità di identificare e contrassegnare i dati generati da AI. Il successo dipenderà dalla disponibilità degli strumenti giusti e da una forza lavoro qualificata nella gestione delle informazioni e delle conoscenze, nonché da soluzioni di gestione dei metadati essenziali per la catalogazione dei dati."

È qui che gli approcci zero trust alla governance dei dati potrebbero essere utili. Chan ha sostenuto che le misure di autenticazione e verifica diventeranno presto "essenziali per tutelare i risultati aziendali e finanziari".

Differenziazione nella gestione dei metadati

• Secondo Gartner, le organizzazioni globali possono anticipare eventuali regolamentazioni in arrivo sulla governance dei dati e ottenere un vantaggio competitivo concentrandosi sui modi per analizzare, allertare e automatizzare la decisione-making su tutti gli asset di dati.

Suggerisce i seguenti passi:

• Nomina un leader dedicato alla governance dell'AI che lavori a stretto contatto con le squadre di data e analytics (D&A) sulle politiche zero trust, la gestione del rischio AI e la conformità.
• Formare team multifunzionali provenienti da cybersecurity, data e analytics (D&A) e altre parti aziendali per eseguire valutazioni dei rischi dei dati. Queste dovrebbero aiutare a identificare i rischi aziendali correlati ai dati generati da AI e determinare quali sono gestiti dalle politiche esistenti e quali richiederanno nuove.
• Utilizzare le politiche e i framework di governance D&A esistenti, e aggiornare le politiche relative alla sicurezza, alla gestione dei metadati e all'etica per affrontare i nuovi rischi derivanti dai dati generati da AI.
• Adottare pratiche attive di gestione dei metadati che avvisano in tempo reale quando i dati sono obsoleti o richiedono una nuova certificazione. Ciò aiuterà le organizzazioni a individuare rapidamente quando i sistemi aziendali critici potrebbero essere esposti a dati imprecisi o pregiudizievoli.

Strategia: E DIFESA: Consigli pratici per l'utente/investitore

Secondo Gartner, la proliferazione di dati AI, l'evoluzione dei requisiti normativi e il rischio di crollo dei modelli linguistici di grandi dimensioni (LLM) contribuiranno ad aumentare l'adozione di approcci zero trust nella governance dei dati nei prossimi due anni.

L'azienda di analisi ha avvertito che, man mano che libri, repository di codice, articoli di ricerca e altre fonti iniziano a presentare contenuti generati dall'AI, i futuri LLM che recuperano queste fonti saranno in effetti addestrati su output provenienti da modelli precedenti. Ciò potrebbe accelerare un declino nella qualità e nell'accuratezza dei modelli, nonché un aumento delle "hallucinazioni" e del bias.

• In risposta all'aumento dei dati AI non verificati, secondo Gartner fino alla metà delle organizzazioni globali si rivolgerà a zero trust data governance.
• I regolatori intensificheranno anche la loro vigilanza in questa area.

"Man mano che i contenuti generati dall'AI diventano più comuni, ci aspettiamo un aumento dei requisiti normativi per verificare i dati 'senza AI' in alcune regioni", ha affermato Wan Fui Chan, managing VP di Gartner. "In questo ambiente regolamentare in evoluzione, tutte le organizzazioni avranno bisogno della capacità di identificare e contrassegnare i dati generati dall'AI. Il successo dipenderà dalla disponibilità degli strumenti giusti e da una forza lavoro qualificata in gestione delle informazioni e delle conoscenze, nonché da soluzioni di gestione dei metadati essenziali per la catalogazione dei dati."

Ecco dove gli approcci zero trust alla governance dei dati potrebbero aiutare.

Chan ha affermato che le misure di autenticazione e verifica diventeranno presto "essenziali per proteggere i risultati aziendali e finanziari".

Differenziazione sulla gestione dei metadati

Secondo Gartner, le organizzazioni globali possono anticipare eventuali regolamentazioni future sulla governance dei dati e ottenere un vantaggio competitivo concentrandosi su modi per analizzare, avvisare e automatizzare la presa di decisioni sui beni dati.

• Nomina un leader dedicato alla governance dell'AI che lavori a stretto contatto con le squadre di dati e analisi (D&A) sulle politiche zero trust, la gestione del rischio AI e la conformità.
• Formare team multifunzionali provenienti da cybersecurity, dati e analisi (D&A) e altre parti dell'azienda per eseguire valutazioni dei rischi sui dati. Queste dovrebbero aiutare a identificare i rischi aziendali correlati ai dati generati dall'AI e determinare quali sono gestiti dalle politiche esistenti e quali avranno bisogno di nuove.
• Utilizzare le politiche e i framework di governance D&A esistenti, e aggiornare le politiche relative alla sicurezza, alla gestione dei metadati e all'etica per affrontare i nuovi rischi derivanti dai dati generati dall'AI.
• Adottare pratiche attive di gestione dei metadati che avvisano in tempo reale quando i dati sono obsoleti o richiedono una nuova certificazione. Ciò aiuterà le organizzazioni a individuare rapidamente quando i sistemi aziendali critici potrebbero essere esposti a dati imprecisi o distorti.

La proliferazione di dati generati dall'AI, l'evoluzione dei requisiti regolamentari e il rischio di un collasso dei modelli linguistici di grandi dimensioni (LLM) spingeranno le organizzazioni ad adottare approcci zero trust per la governance dei dati nei prossimi due anni.

La crescente presenza di contenuti generati dall'AI in libri, repository di codice, articoli di ricerca e altre fonti potrebbe portare a un deterioramento della qualità e dell'accuratezza dei modelli LLM futuri, che si baseranno su questi dati. Questo scenario potrebbe aumentare le "hallucinazioni" e i bias nei modelli.

• Per contrastare l'aumento di dati AI non verificati, Gartner prevede che la metà delle organizzazioni globali adotterà un approccio zero trust alla governance dei dati.
• I regolatori intensificheranno il loro controllo in questo settore, richiedendo una maggiore verifica dei dati "privi di AI".
• Le organizzazioni dovranno quindi essere in grado di identificare e contrassegnare i dati generati dall'AI, implementando gli strumenti e le competenze necessarie per la gestione delle informazioni e dei metadati.

L'approccio zero trust alla governance dei dati potrebbe aiutare a mitigare questi rischi. Le misure di autenticazione e verifica diventeranno essenziali per proteggere i risultati aziendali e finanziari.