Deepfake a sfondo sessuale: l'Ue sta facendo abbastanza per fermarli?

Un sito per realizzare deepfake a sfondo sessuale
Un sito per realizzare deepfake a sfondo sessuale Diritti d'autore Inês Pereira
Diritti d'autore Inês Pereira
Di Ines Trindade PereiraEuronews
Condividi questo articoloCommenti
Condividi questo articoloClose Button
Copia e incolla il codice embed del video qui sotto:Copy to clipboardCopied
Questo articolo è stato pubblicato originariamente in portoghese

Gli strumenti di intelligenza artificiale utilizzati per spogliarsi senza consenso, i cosiddetti deepfake a sfondo sessuale, sono stati creati per colpire principalmente le donne

PUBBLICITÀ

La manipolazione di immagini e video per creare contenuti a sfondo sessuale sta per essere considerata un reato penale in tutti i Paesi dell'Unione europea.

La prima direttiva sulla violenza contro le donne online passerà alla fase finale di approvazione nell'aprile 2024. Attraverso programmi di intelligenza artificiale, queste immagini vengono manipolate per spogliare le donne senza il loro consenso.

Cosa cambierà con la nuova direttiva? E cosa succede se le donne che vivono nell'Unione europea sono vittime di manipolazioni effettuate sulla rete in Paesi al di fuori del blocco?

Le vittime dei deepfake sono quasi sempre donne

I siti web che consentono di creare deepfake a sfondo sessuale sono gratuiti e a portata di click su qualsiasi motore di ricerca. La creazione di un deepfake sessuale richiede meno di 25 minuti: secondo lo studio 2023 State of Deepfake basta solo una fotografia in cui il volto sia chiaramente visibile. Su un campione di oltre 95mila video deepfake analizzati tra il 2019 e il 2023, lo studio ha rivelato un aumento del 550 per cento.

Secondo Henry Ajder, esperto di intelligenza artificiale e deepfake, chi utilizza questi strumenti cerca di "diffamare, umiliare, traumatizzare e, in alcuni casi, gratificare sessualmente". Ajder sottolinea come gli strumenti siano progettati specificamente per colpire le donne. I creatori di deepfake sessualmente espliciti cercano le foto delle loro vittime "ovunque e dappertutto", dagliaccount Instagram a Facebook e WhatsApp

Come prevenire i deepfake

Attualmente le vittime di deepfake a sfondo sessuale si affidano a una serie di leggi come la legge sulla privacy dell'Unione Europea, il Regolamento generale sulla protezione dei dati e le leggi nazionali sulla diffamazione per tutelarsi.

Di fronte a questo tipo di reato il consiglio per le vittime è quello di fare uno screenshot o di registrare un video del contenuto per usarlo come prova e denunciarle l'evento alla piattaforma di social media stessa e alla polizia.

La consulente per i diritti digitali e la legge di Equality Now ha dichiarato che "esiste anche una piattaforma chiamata StopNCII, o Stop Non-Consensual Abuse of Private Images, in cui è possibile segnalare una propria immagine; il sito web crea quello che viene chiamato un 'hash' del contenuto. Con l'aiuto dell'intelligenza artificiale, cancella automaticamente il contenuto su varie piattaforme".

La proposta di una nuova direttiva

Con questa proposta di nuova direttiva per combattere la violenza contro le donne, tutti i 27 Stati membri avranno lo stesso pacchetto di leggi per criminalizzare le forme più disparate di cyber-violenza, come i deepfake a sfondo sessuale. 

Tuttavia, denunciare questo tipo di reato può essere un processo complicato.

"Il problema è che la vittima potrebbe vivere a Bruxelles. Il criminale in California, negli Stati Uniti, e il server che contiene il contenuto in Irlanda. Quindi diventa un problema globale, perché abbiamo a che fare con Paesi diversi", ha spiegato Amanda Manyame.

Di fronte a questa situazione, l'europarlamentare svedese di centro-sinistra e principale co-negoziatrice del dossier spiega che "ciò che deve essere fatto parallelamente alla direttiva" è aumentare la cooperazione con gli altri Paesi, "perché solo così saremo in grado di combattere questo crimine che non vede confini".

Condividi questo articoloCommenti

Notizie correlate

Taylor Swift, X sblocca le ricerche dopo deepfake porno con l'intelligenza artificiale

Adolescenti spagnole, foto nude ma sono un fake. Quale pena applicare?

Il nuovo patto Ue per la migrazione "inaugurerà un'era mortale di sorveglianza digitale"