Da questa settimana l’AI Act dell’UE impone etichette su deepfake e contenuti generati dall’IA. Gli esperti avvertono che lacune tecniche e assenza di standard comuni potrebbero indebolire i controlli
Da domenica, le aziende che sviluppano IA saranno soggette a nuovi obblighi previsti dall'AI Act dell'UE, che impongono di rendere i deepfake e gli altri contenuti generati dall'intelligenza artificiale chiaramente riconoscibili come tali.
PUBBLICITÀ
PUBBLICITÀ
Ma le sfide tecniche sollevano dubbi sull'efficacia reale di queste norme.
Due anni fa, l'UE ha adottato una normativa ampia per regolamentare l'intelligenza artificiale e ha istituito un apposito Ufficio per l'IA incaricato di seguire l'attuazione di questa legislazione storica.
Tra le varie disposizioni, l'AI Act introduce i primi regimi di trasparenza al mondo per i contenuti sintetici, imponendo ai fornitori di sistemi di IA generativa come Claude di Anthropic e ChatGPT di OpenAI di garantire che i contenuti generati o manipolati artificialmente possano essere individuati come tali.
Le regole sono più rigide per i deepfake. Si tratta di immagini, audio o video realistici creati o manipolati dall'IA che imitano l'aspetto, la voce o i gesti di una persona reale, in modo da poter indurre il pubblico a credere che abbia detto o fatto qualcosa che in realtà non è mai accaduto.
Dalla satira alla manipolazione
Come ogni tecnologia, l'intelligenza artificiale può essere usata per scopi creativi ma anche per fini dannosi.
Bruxelles riconosce che non tutti i contenuti sintetici sono ingannevoli: quelli creati con finalità chiaramente artistiche, creative, satiriche o narrative rientrano di norma al di fuori dell'ambito degli obblighi di segnalazione dei deepfake.
Un esempio diventato famoso risale al 2023, quando un'immagine generata dall'IA raffigurante Papa Francesco con un piumino bianco alla moda è diventata virale in tutto il mondo. L'immagine era falsa, ma è stata ampiamente percepita come una battuta.
La stessa tecnologia, però, può essere usata per fini ben più nocivi.
Nel 2024 la pop star globale Taylor Swift è stata bersaglio di una serie di immagini esplicite generate dall'IA e diffuse online senza il suo consenso, riaccendendo il dibattito sui rischi dei media sintetici.
I deepfake si sono affermati anche come strumento di manipolazione politica.
Nel 2022, poco dopo l'avvio da parte della Russia dell'invasione su vasta scala dell'Ucraina, è circolato un video falso in cui il presidente ucraino Volodymyr Zelenskyy invitava i soldati ad arrendersi. Il filmato è stato smentito rapidamente, ma ha mostrato come i contenuti sintetici possano essere trasformati in un'arma in tempo di guerra.
Il timore è che contenuti generati dall'IA sempre più realistici, amplificati dalle piattaforme di social media, rendano più difficile per i cittadini distinguere le informazioni autentiche dal materiale creato ad arte.
Regolare i deepfake
Per affrontare la sfida, la Commissione europea ha elaborato un codice di condotta volontario che indica come le aziende dovrebbero segnalare l'origine artificiale dei contenuti sintetici tramite marcature leggibili dalle macchine, oltre che con etichette visibili per i deepfake.
L'idea è semplice: le persone devono sapere quando stanno guardando un contenuto generato o modificato dall'IA. Per questo le norme si applicano sia alle aziende che sviluppano la tecnologia, sia a chi usa l'intelligenza artificiale in ambito professionale, mentre gli utilizzi personali restano esclusi.
Il codice di condotta non riguarda solo la marcatura, ma anche i meccanismi di rilevazione collegati, che richiedono la collaborazione di tutti gli attori coinvolti: aziende di IA, piattaforme di social media, organizzazioni della società civile e fact-checker.
La questione più complessa è capire se la tecnologia sia davvero in grado di mantenere questa promessa.
Una regola, molti ostacoli
La prima sfida è geografica. L'UE può regolamentare le aziende che operano nel o si rivolgono al mercato europeo, ma i contenuti online non si fermano ai confini. Un deepfake creato fuori dall'Europa può comunque arrivare nel giro di pochi minuti a milioni di utenti europei.
La seconda sfida riguarda la maturità tecnica. Le grandi aziende di IA come OpenAI e Google hanno in linea di massima sostenuto i requisiti di trasparenza, firmando il codice di condotta della Commissione. Hanno però avvertito che le tecnologie di marcatura e rilevazione sono in continua evoluzione e difficili da standardizzare.
Al momento non esiste una soluzione unica valida per l'intero settore. Le aziende stanno sperimentando diversi approcci – filigrane digitali, metadati, sistemi di tracciabilità dei contenuti – che però non sempre sono compatibili tra loro o in grado di dialogare.
La terza sfida è la fragilità delle tracce digitali. Gli esperti avvertono che le filigrane possono essere rimosse, alterate e andare perse quando il contenuto viene modificato, compresso o condiviso su più piattaforme. Ricostruire l'intera storia di un'immagine o di un video generato dall'IA attraverso numerosi interventi può essere estremamente difficile.
A causa di questi limiti, i ricercatori ritengono che nessuna tecnologia da sola sarà sufficiente. Le aziende potrebbero dover adottare invece un approccio multilivello che combini più metodi.
"Una combinazione di soluzioni è più efficace di qualsiasi singola misura. Di conseguenza, una buona pratica è implementare più livelli di marcatura e di rilevazione per i contenuti generati dall'IA", si legge nelle conclusioni dello studio tecnico della Commissione europea sull'argomento.
Tenere il passo
L'UE ha assunto un ruolo di primo piano nell'affrontare una delle sfide decisive dell'era dell'intelligenza artificiale: un mondo in cui i contenuti sintetici sono sempre più difficili da distinguere dalla realtà.
Ma la capacità di Bruxelles di tenere il passo con una tecnologia che evolve a una velocità straordinaria sarà decisiva per capire se le norme di trasparenza dell'AI Act diventeranno una tutela efficace o resteranno solo un'etichetta apposta su un problema che continua a sfuggire al controllo.