Più di 20 ragazze in Spagna hanno riferito di aver ricevuto immagini di se stesse nude generate dall'intelligenza artificiale. Ma i deepfakes possono essere puniti legalmente?
PUBBLICITÀAttenzione alla rete. Oltre venti studentesse di Almendralejo, una cittadina del sud della Spagna, hanno ricevuto sui loro cellulari foto di loro stesse nude. Nessuna, però, aveva mai scattato nulla del genere anche le immagini sembravano assolutamente reali.
In realtà erano state rubate dai loro account Instagram, alterate con un'applicazione di intelligenza artificiale e poi condivise nei gruppi Whatsapp.
Le adolescenti erano completamente vestite nelle foto reali, ma con una app si sono ritrovate nude. Ora i genitori e i pubblici ministeri si chiedono se sia stato commesso un reato, anche se le foto sono effettivamente reali. Le immagini potrebbero essere considerate pedopornografia?
"I montaggi sono super realistici, è molto inquietante ed è un vero oltraggio", ha scritto Miriam Al Adib, una delle madri delle ragazze, sul suo account Instagram. "Mia figlia mi ha detto con grande disgusto: "Mamma, guarda cosa mi hanno fatto".
Al Adib ha anche affermato che le foto potrebbero aver raggiunto portali internet come Onlyfans o siti pornografici. Per tutto il tempo, le ragazze hanno sopportato i commenti dei loro compagni di classe.
"Non lamentarti, le ragazze caricano foto che mostrano quasi il loro c***", è stato detto a una delle ragazze.
La più giovane ha solo 11 anni e non frequenta ancora la scuola superiore.
Un'altra madre, Fátima Gómez, ha dichiarato a Extremadura TV che sua figlia è stata anche ricattata. Durante una conversazione con un ragazzo sui social media, questo le ha chiesto del denaro e, al suo rifiuto, le ha inviato una foto nuda.
Ora le madri delle giovani vittime si sono organizzate per denunciare l'accaduto. La Polizia nazionale ha aperto un'indagine e ha già identificato diversi minori presumibilmente coinvolti.
Alcuni di loro sono compagni di classe delle ragazze, ha rivelato un politico locale.
Il caso è stato deferito alla Procura dei minori e lo stesso sindaco della città ha avvertito: "Può essere iniziato tutto come uno scherzo, ma le implicazioni sono molto più grandi e potrebbero avere gravi conseguenze per chi ha fatto queste foto".
10 euro per 25 foto di nudo
Le creazioni iperrealistiche di intelligenza artificiale, meglio note come deepfakes, sono state realizzate con l'app ClothOff.
Con lo slogan "Spogliate chiunque, spogliate le ragazze gratuitamente", l'applicazione permette agli utenti di togliere i vestiti a chiunque appaia nella galleria fotografica del proprio telefono. Il costo è di 10 euro per creare 25 immagini di nudo.
Sebbene la nudità non sia reale, le madri affermano che l'angoscia delle ragazze nel vedere la loro foto è davvero molto reale.
"Non siete consapevoli del danno che avete fatto a queste ragazze e non siete nemmeno consapevoli del crimine che avete commesso", ha dichiarato Al Adib sul suo account Instagram in un messaggio rivolto alle persone che hanno condiviso le immagini.
"Mia figlia è stata informata da uno di loro che aveva fatto 'cose' con la sua foto", ha dichiarato un'altra delle madri al quotidiano spagnolo El País.
Ma i deepfake possono essere puniti legalmente?
"Una domanda è se debba essere punito e un'altra è se possa essere punito dal modo in cui la legge è redatta in Spagna e in altri Paesi dell'Ue", ha detto a Euronews Manuel Cancio, professore di Diritto penale presso l'Università Autonoma di Madrid.
PUBBLICITÀIl professore sottolinea che c'è una scappatoia legale perché l'uso dei volti dei minori nelle fotografie incide sulla loro privacy, ma quando si tratta di reati in cui vengono diffuse immagini intime, è l'immagine nel suo complesso a violare la privacy.
"Poiché è generata da deepfake, la privacy della persona in questione non viene intaccata. L'effetto che ha sulla vittima può essere molto simile a quello di una vera foto di nudo, ma la legge è un passo indietro", aggiunge.
Secondo Cancio, il quadro giuridico che potrebbe funzionare in questo caso sarebbe un reato contro l'integrità morale, "una sorta di scatola dei crimini che nessuno sa dove mettere".
Nel marzo 2022, la Commissione europea ha proposto di criminalizzare questo tipo di reato in una direttiva sulla criminalità informatica. Secondo il professore, il Codice penale olandese è l'unico ad avere una disposizione che affronta la questione.
Può essere considerata pedopornografia?
Gli esperti sono divisi sul considerare reato la distribuzione di queste foto, che comporterebbe una pena più elevata, e preferiscono optare per la cautela.
PUBBLICITÀPer Leandro Núñez, avvocato specializzato in nuove tecnologie presso lo studio legale Audens, la chiave non è se la foto è reale al 100%, ma se lo sembra.
"La cosa più importante è che il volto sia identificabile. Potremmo parlare di pornografia infantile, di reati contro l'integrità morale o di distribuzione di immagini di contenuto sessuale non consensuale", ha dichiarato l'avvocato a Euronews.
"Nel caso di un crimine contro l'integrità morale, sarebbe considerato un reato minore, quindi comporterebbe una pena minore, da sei mesi a due anni di carcere", aggiunge.
Altri esperti, come Eloi Font, avvocato di Font Advocats, uno studio legale specializzato in diritto digitale, ritengono che potrebbe essere classificato come un reato simile alla riproduzione di immagini sessuali di minori. In questo caso, la pena potrebbe essere compresa tra i cinque e i nove anni di carcere.