La sfida della marcatura dei contenuti AI: tra obblighi normativi e limiti tecnologici
La recente pubblicazione dei tre studi tecnici commissionati dalla Commissione Europea sull'implementazione dell'articolo 50 dell'AI Act ha portato alla luce una realtà complessa: il divario tra le aspettative normative e le capacità tecnologiche attuali in materia di marcatura e rilevazione dei contenuti generati dall'intelligenza artificiale.
Il quadro normativo: quattro obblighi distinti
L'articolo 50 dell'AI Act stabilisce quattro obblighi principali:
- Informazione agli utenti: i provider di sistemi AI che interagiscono direttamente con le persone devono garantire che gli utenti siano consapevoli di stare interagendo con un sistema artificiale.
- Marcatura dei contenuti: i provider di sistemi che generano o manipolano contenuti sintetici devono garantire che gli output siano marcati in modo automaticamente rilevabile.
- Disclosure dei deepfake: i deployer di contenuti AI-generati con finalità informativa devono fornire una disclosure esplicita e percepibile.
- Trasparenza generale: tutte le informazioni devono essere fornite in modo chiaro e distinguibile al momento della prima interazione.
Attori coinvolti: provider, deployer e intermediari
Il sistema di responsabilità previsto dall'AI Act coinvolge diversi attori:
- Provider: sviluppatori di sistemi AI che devono implementare marcature tecniche leggibili automaticamente.
- Deployer: utilizzatori finali di sistemi AI che devono garantire una disclosure percepibile agli utenti finali.
- Attori della catena distributiva: piattaforme online, aggregatori e motori di ricerca che, pur non essendo direttamente obbligati, sono incoraggiati a preservare metadati e marcature.
Le criticità tecnologiche emerse
I tre studi tecnici evidenziano significative sfide tecnologiche:
Per l'audio
- I watermark digitali avanzati come AudioSeal (Meta) e WavMark (Microsoft) sono vulnerabili agli attacchi di replay fisico.
- La riproduzione e reregistrazione del contenuto marcato attraverso altoparlanti e microfoni può distruggere il watermark.
Per il testo
- Dipendenza dalla lunghezza: efficacia ridotta sotto i 30-50 token.
- Vulnerabilità agli attacchi di scrubbing: la parafrasi può rimuovere il watermark.
- Rischio di spoofing: modifiche minime del testo possono alterare il significato senza rimuovere la marcatura.
Per le immagini/video
- Nessun watermark resiste agli attacchi di rigenerazione avanzati.
- I detector performano bene in condizioni controllate ma generalizzano male con metodi generativi diversi.
Le sfide normative e pratiche
La complessità aumenta quando:
- La catena di distribuzione è articolata.
- Diversi soggetti sviluppano, integrano, distribuiscono e creano contenuti con sistemi AI.
- La responsabilità finale rimane in capo al provider del sistema AI che immette il prodotto sul mercato.
Il Codice di condotta tenta di risolvere questi problemi permettendo ai provider downstream di appoggiarsi alle soluzioni di marcatura implementate a monte, a condizione che i provider del modello abbiano dimostrato la conformità delle loro soluzioni.
Conclusioni
Gli studi tecnici confermano che, allo stato attuale, nessuna singola tecnica di marcatura e rilevazione soddisfa simultaneamente tutti e quattro i requisiti dell'articolo 50 (efficacia, interoperabilità, robustezza e affidabilità) al livello giuridicamente richiesto.
Questa situazione crea un loop strutturale: mentre le tecniche di rimozione dei watermark si perfezionano, quelle di embedding devono aggiornarsi costantemente, senza un punto di equilibrio stabile.
La strada verso un'implementazione efficace dell'AI Act è quindi ancora lunga e richiederà ulteriori sviluppi tecnologici e chiarimenti normativi.
In questo contesto, la recente legge italiana n. 132/2025 sull'AI e il pacchetto Digital Omnibus dell'Unione Europea aggiungono ulteriori strati di complessità, generando più incertezza che chiarimenti.
La sfida per le aziende e le istituzioni sarà quindi quella di navigare in questo panorama in evoluzione, cercando di bilanciare gli obblighi normativi con le limitazioni tecnologiche attuali.
Il contesto normativo e le sue implicazioni
La sovrapposizione tra l'AI Act, la legge italiana n. 132/2025 e il pacchetto Digital Omnibus crea un quadro normativo frammentato, dove le interpretazioni possono variare significativamente tra Stati membri. Questo scenario aumenta il rischio di compliance gap, soprattutto per le aziende che operano a livello transnazionale. Le linee guida europee in consultazione rappresentano un tentativo di armonizzare le interpretazioni, ma la loro applicazione pratica rimane incerta fino alla pubblicazione finale.
Le sfide tecnologiche nel dettaglio
Un aspetto critico emerso dagli studi tecnici è la mancanza di standard condivisi per la marcatura. Ogni provider sviluppa soluzioni proprietarie, creando un ecosistema frammentato dove l'interoperabilità è limitata. Questa situazione complica enormemente il lavoro dei deployer, che devono gestire potenzialmente diverse tecnologie di marcatura per sistemi AI provenienti da fornitori differenti.
Impatti sul mercato e innovazione
L'attuale divario tra requisiti normativi e capacità tecnologiche sta già influenzando il mercato. Alcune aziende stanno adottando approcci conservativi, limitando l'uso di sistemi AI per contenuti sintetici fino a quando non saranno disponibili soluzioni di marcatura più robuste. Al contrario, altre stanno investendo pesantemente in R&S per sviluppare tecnologie di watermarking più avanzate, sperando di diventare standard de facto.
Le prospettive future
La Commissione Europea sta valutando l'introduzione di un sistema di certificazione per le tecnologie di marcatura, che potrebbe aiutare a standardizzare il mercato. Tuttavia, questo approccio richiederebbe un significativo investimento di risorse e tempo. Nel frattempo, le aziende dovrebbero adottare strategie flessibili, preparandosi a adattarsi a nuovi sviluppi normativi e tecnologici.
La strada verso un'implementazione efficace dell'AI Act è ancora lunga e richiederà un dialogo continuo tra legislatori, tecnologi e stakeholder industriali. Solo attraverso una collaborazione strutturata sarà possibile trovare un equilibrio tra protezione dei diritti fondamentali e promozione dell'innovazione tecnologica.
Nota Editoriale e Disclaimer
Le guide e i contenuti pubblicati su GoYou sono frutto di attività di ricerca e analisi indipendente, a scopo informativo, educativo e di approfondimento.
GoYou non costituisce una testata giornalistica né un prodotto editoriale ai sensi della Legge n. 62/2001 e non svolge attività di informazione in tempo reale.
Il progetto GoYou non fornisce consulenza professionale, tecnica, legale o finanziaria e declina ogni responsabilità per l’uso improprio delle informazioni pubblicate.
Nel settore Crypto, ogni investimento comporta rischi: si invita il lettore a informarsi sempre in modo autonomo prima di assumere qualsiasi decisione.