"Una condanna a vita". Come l'intelligenza artificiale alimenta il deepfake porn

PUBBLICITÀ

Noelle Martin aveva appena 18 anni quando ha scoperto che online circolavano sue foto pornografiche. Non aveva mai ricordato di aver scattato, né tantomeno condiviso, immagini intime. Tuttavia, in quelle immagini c'era il suo volto - il corpo, invece, non era il suo. Era diventata vittima di quello che in seguito sarebbe stato conosciuto come "deepfake". Le immagini pornografiche erano state manipolate per farle assomigliare a lei, utilizzando le immagini che aveva condiviso sui suoi account personali sui social media.

Cosa sono i deepfake

"Questa è una condanna che dura tutta la vita", ha spiegato a Euronews Next. "Può distruggere la vita delle persone, i mezzi di sussistenza, la possibilità di trovare un posto di lavoro, i rapporti interpersonali e le relazioni sentimentali. E c'è molto, molto poco che si possa fare una volta che qualcuno è stato preso di mira".

I deepfake sono video o immagini alterati digitalmente e creati per ritrarre qualcuno in scenari falsi. Sebbene la tecnologia deepfake possa teoricamente essere utilizzata per scopi più leggeri, satirici o ben intenzionati, un rapporto di Deeptrace Labs del 2019 ha rilevato che il 96% dei contenuti deepfake online sono costituiti da pornografia senza il consenso dei protagonisti.

Proprio questa settimana, un uomo di 22 anni di New York è stato condannato a sei mesi di carcere per aver pubblicato foto pornografiche deepfake di ex compagni di scuola utilizzando immagini adolescenziali prese dai loro account sui social media.

Battaglia per la giustizia

Nel 2013, quando le è successo lo stesso, Martin ha cercato di limitare i danni rivolgendosi alla polizia e chiedendo la rimozione delle immagini. Tuttavia, non hanno potuto fare nulla, visto che all'epoca in Australia, dove lei vive, non esistevano leggi contro la diffusione di immagini intime. "Anche se si può tentare di togliere le immagini, se si è vittime di questo fenomeno, si ha comunque il problema di chiedere conto a chi è responsabile. Perché togliere le immagini dai luogni pubblici, da questi siti web o da qualsiasi altro luogo in cui sono ospitate è solo una delle cose da fare", ha sottolineato Martin. "Se chi è responsabile non viene condannato, può continuare a farlo".

La ragazza ha intrapreso la carriera di avvocato e ha trascorso anni a chiedere una legislazione contro la condivisione non consensuale di immagini intime in Australia. Nel 2018, i suoi sforzi hanno contribuito all'introduzione di nuove leggi che rendono un crimine la distribuzione non autorizzata o il "revenge porn" nel suo Paese.

Dieci anni dopo la sua traumatica esperienza, la Martin, oggi avvocato e ricercatrice di 28 anni presso la University of Western Australia, continua a battersi contro la condivisione di contenuti sessuali non autorizzati, soprattutto quelli creati con la tecnologia deepfake. "In definitiva - aggiunge - quello che stiamo cercando di fare è spingere affinché vengano approvate ovunque delle leggi, spingere affinché i Paesi di tutto il mondo trattino questo comportamento come un crimine, spingere affinché vengano introdotti meccanismi in grado di garantire che le vittime possano ottenere aiuto".

L'ascesa dei deepfake porno

I deepfake porno si trovano in rete da anni, ma i recenti progressi dell'intelligenza artificiale (AI) e la crescente accessibilità di questa tecnologia hanno reso più facile la creazione di materiale sessuale realistico e ingannevole. 

Quando i deepfakes sono emersi per la prima volta, l'obiettivo principale era quello di creare video pornografici con i volti delle celebrità. Il termine stesso è emerso nel 2017, quando un utente con questo pseudonimo sulla piattaforma social Reddit è diventato noto per aver realizzato e condiviso video pornografici falsificati di celebrità femminili, tra le quali Scarlett Johansson e Taylor Swift.

Più recentemente, i deepfake pornografici sono balzati agli onori della cronaca a gennaio, quando un popolare streamer di Twitch, Brandon Ewing - che online si fa chiamare "Atrioc" - è stato sorpreso con un sito web pornografico deepfake aperto sul suo browser durante un livestream sulla piattaforma. Il sito in questione presentava immagini falsificate di altri streamer e amici di Twitch.

Ewing si è poi scusato, in lacrime, e ha interrotto la sua attività di streamer per diverse settimane, mentre Twitch ha aggiornato le linee guida della comunità per vietare il deepfake porn sulla piattaforma. Nelle sue scuse, ha dichiarato di essere diventato "morbosamente curioso" dopo aver visto un annuncio di pornografia deepfake su un popolare sito web porno, così ha cliccato e pagato per accedere ai video.

Le streamer donne di Twitch hanno visto i loro nomi coinvolti, e molte hanno dichiarato di non essere a conoscenza dell'esistenza di tali contenuti online. Lo scandalo ha causato un'impennata nelle ricerche online delle frasi "deepfake porn", "porn deepfake" e "deepfakes", secondo i dati di Google Trends.

Sophie Compton, cofondatrice della coalizione "My Image My Choice", che si batte contro l'abuso di immagini intime, ha affermato che la questione dimostra che gli utenti dei siti web di deepfake sono parte del problema e dovrebbero essere ritenuti responsabili. "Non si tratta solo dei creatori, ma di tutti gli utenti. E si tratta di ragazzi comuni, persone che frequentano le nostre scuole e probabilmente anche ragazze, anche se parliamo in prevalenza di uomini. Si tratta di compagni di classe, amici, fratelli, fidanzati", ha spiegato Compton a Euronews Next.

"Forse non si rendono conto - ha aggiunto - che anche la loro partecipazione è parte del problema. Stanno contribuendo ad alimentare qualcosa che è estremamente, estremamente pericoloso per le donne".

Come i deepfake vengono usati contro le loro vittime

Sebbene i deepfake pornografici delle celebrità esistano da anni, i recenti progressi dell'intelligenza artificiale fanno sì che oggi praticamente chiunque possa diventare vittima di tali contenuti. Così, la tecnologia può essere utilizzata anche per screditare o ricattare le persone nel tentativo di metterle a tacere o di indebolirle.

"Sembra che ogni mese spunti un nuovo sito web di deepfake porn: questi contenuti si stanno trasformando in un'attività commerciale", ha dichiarato Compton, aggiungendo che tali siti vengono aperti con apparente impunità. "Le persone si presentano come deepfaker, accettano Bitcoin e PayPal e hanno una tagline, uno strapline e un logo".

Che la motivazione dietro la creazione e la condivisione di deepfakes porno sia quella di mettere in imbarazzo, diffamare o molestare le vittime o semplicemente di fare soldi, il contenuto spesso rispecchia le fantasie di alcuni uomini di degradare e rendere degli oggetti le donne usando immagini esplicite, reali o false che siano.

"Dal punto di vista delle vittime, anche se si può denunciare un video come falso e anche se esso stesso non è realistico, il danno è comunque irreparabile", ha commentato Martin. "Se viene creato un deepfake su di voi, e anche se riuscite a smascherarlo, la gente continuerà ad associarvi a tale rappresentazione. La tua reputazione, il tuo nome e la tua immagine possono ancora essere infangati".

PUBBLICITÀ

Rana Ayyub, giornalista investigativa indiana e collaboratrice del Washington Post, è stata vittima di una campagna diffamatoria in cui sono stati utilizzati dei deepfake porno che la ritraevano nel tentativo di metterla a tacere. La giornalista ha raccontato la sua straziante esperienza in un articolo in cui ha spiegato come il fatto di essere schietta e considerata "anti-establishment" l'abbia resa un bersaglio dell'odio sui social media.

Tuttavia, gli attacchi verbali a cui era ormai abituata sono diventati improvvisamente molto concreti quando un falso video porno che la ritraeva è diventato virale. Ciò l'ha lasciata così scioccata da non riuscire nemmeno a vedere la sua famiglia. "L'intero Paese stava guardando un video porno la cui protagonista affermava di essere me e io non potevo fare nulla", ha raccontato.

"Dal giorno in cui il video è stato pubblicato, non sono più stata la stessa persona. Una volta mi esprimvo molto, ora sono molto più cauta su ciò che pubblico online. Mi sono autocensurata, un po' per necessità", ha scritto. "È uno strumento molto, molto pericoloso e non so dove si vada a finire di questo passo".

Ci sono leggi e regolamenti che ci proteggono dai deepfake porno?

Gli attivisti sostengono che attualmente è molto facile umiliare pubblicamente una persona creando dei deepfakes, e che questa mancanza di regolamentazione e di pene deterrenti sta deludendo le vittime.

"Il messaggio che viene dato alle persone che creano questi contenuti è che nessuno verrà a cercarti. Quello che state facendo non è illegale e non ci saranno conseguenze", ha detto Compton. L'Unione Europea ha proposto nuovi regolamenti per affrontare la diffusione di contenuti di questo tipo, ma non è ancora riuscita a proteggere davvero le persone dai deepfake pornografici non autorizzati.

PUBBLICITÀ

Ad esempio, la legge sull'intelligenza artificiale, attualmente in discussione al Parlamento europeo, richiede ai creatori di indicare chiaramente quando i contenuti sono stati generati o manipolati artificialmente. Ma gli attivisti sostengono che i disclaimer difficilmente dissuaderanno i creatori di deepfake o renderanno giustizia alle vittime, una volta che il contenuto sarà in circolazione e sarà per sempre collegato a loro.

Tuttavia, un altro atto legislativo dell'UE in fase di elaborazione è la direttiva sulla violenza di genere, proposta nel 2022. Questa proposta di legge renderebbe un crimine la condivisione non consensuale di immagini intime e gli autori potrebbero rischiare il carcere. L'articolo 7b fa addirittura riferimento specifico ai deepfakes.

Il ruolo delle aziende tecnologiche e delle piattaforme online

Nel frattempo, le vittime sperano che le piattaforme online aggiornino le loro politiche per reprimere i contenuti pornografici deepfake. OpenAI, l'azienda che ha lanciato lo strumento di generazione di immagini DALL-E, ha già rimosso i contenuti espliciti dai suoi dati e filtra le richieste per bloccare la creazione di immagini di celebrità e politici.

Un altro modello di AI molto diffuso, Midjourney, blocca alcune parole chiave e incoraggia gli utenti a segnalare ai moderatori le immagini inappropriate. TikTok ha anche imposto che i deepfake o i contenuti manipolati debbano essere dichiarati pubblicamente come falsi o alterati e ha vietato i deepfake di personaggi privati e giovani.

Quando ha aggiornato le linee guida della comunità, Twitch ha avvertito che la promozione, la creazione o la condivisione intenzionale di deepfake pornografici avrebbe comportato una cancellazione immediata dell'account. Anche solo mostrare una parte di tale contenuto, e anche se intesa a esprimere indignazione, "sarà rimossa e comporterà l'applicazione della legge", ha scritto l'azienda in un post sul blog.

PUBBLICITÀ

Nel frattempo, Meta, OnlyFans e Pornhub hanno iniziato ad utilizzare a un nuovo strumento "Take It Down" che consente agli adolescenti di segnalare immagini e video espliciti di se stessi da Internet. Ma "le forze dell'ordine, i governi e le autorità di regolamentazione devono unirsi per affrontare questo problema, perché se i Paesi del mondo se ne occupano ciascuno per conto proprio, non potranno fare molto. Si tratta di un problema globale che necessita di una soluzione globale", ha dichiarato Martin. Secondo la quale "anche le vittime dovrebbero essere ascoltare quando si prendono decisioni in merito".