Alcuni esperti sostengono he la proposta di legge dell'Ue potrebbe introdurre una "sorveglianza di massa" in Europa attraverso la scansione di tutte le comunicazioni, compresi i messaggi criptati. Ma le sopravvissute agli abusi non hanno dubbi: "Servono maggiori controlli"
PUBBLICITÀRhiannon aveva solo 13 anni quando è stata adescata online, poi abusata sessualmente.
L'autore di questo terribile reato è stato accusato e condannato, ma l'impatto dei suoi crimini resta profondo nella vittima.
"Non ho parlato dei miei abusi per molto tempo", ha raccontato Rhiannon a Euronews. "Ho sofferto di ansia, attacchi di panico, depressione, autolesionismo e tentativi di suicidio".
Oggi, a 33 anni, vive sapendo che le immagini e i video dei suoi abusi circolano ancora online. Ma lei ora parla con coraggio, chiedendo una regolamentazione più severa per reprimere i predatori sessuali.
Giovedì, i ministri dell'Unione europea hanno discusso le nuove leggi proposte dalla Commissione europea per contrastare gli abusi sessuali online sui minori e per garantire che crimini come quelli commessi contro Rhiannon non rivivano, giorno dopo giorno, su Internet.
Cittadina britannica, Rhiannon afferma che la proposta di regolamento dell'Ue e il disegno di legge britannico sulla sicurezza online, che diventerà presto legge, sono fondamentali nella lotta globale contro gli abusi sessuali sui minori.
Le leggi previste dall'Unione europea utilizzerebbero le nuove tecnologie per individuare materiale pedopornografico (CSAM) nuovo, o già esistente, e attività di adescamento di minori, e darebbero alle autorità nazionali il potere di obbligare i servizi digitali a scansionare le comunicazioni degli utenti, compresi i messaggi criptati.
Ma è scoppiata un'aspra polemica, che contrappone i sostenitori della protezione dell'infanzia alle lobby dei diritti digitali, che sostengono che il provvedimento darà vita a un "regime di sorveglianza" di massa e segnerà la fine della privacy digitale, così come la conosciamo.
I sostenitori della nuova legge affermano che la mancata approvazione del regolamento lascerebbe i criminali sempre impuniti e le grandi aziende Big Tech senza regole.
Tra i due schieramenti c'è una corda tesa che si sta rivelando difficile da percorrere: come catturare chi abusa di minori senza minare la privacy online?
Le tecnologie sono abbastanza "mature"?
Per individuare il materiale pedopornografico già noto alle forze dell'ordine, la Commissione europea ha proposto di utilizzare la cosiddetta funzione di "hash percettivo", che prende un'impronta digitale, hash, dei file dannosi e ne individua le repliche su Internet.
Ma gli esperti accademici avvertono che gli autori possono facilmente manipolare le immagini per eludere il rilevamento e che utenti innocenti potrebbero essere accusati ingiustamente.
"Il problema è che è molto facile violare l'hash, cambiando un pixel o anche ritagliando leggermente l'immagine", ha spiegato il professor Bart Preneel, esperto di crittografia presso l'Università KU Leuven, in Olanda, "ed è anche possibile che un'immagine perfettamente legittima venga segnalata come falso positivo".
La Commissione intende istituire un Centro dell'Ue sugli abusi sessuali sui minori al Tribunale Internazione dell'Aia, dove il personale verrebbe assunto per filtrare manualmente i contenuti segnalati come illegali, al fine di evitare di sommergere le agenzie di contrasto con "falsi positivi".
Ma l'organizzazione della società civile ECPAT International - presente in 102 Paesi, tra cui l'Italia - afferma che esistono prove sufficienti che le tecnologie di hash percettivo funzionano.
"Queste tecnologie non sono solo promettenti, ma sono comprovate. I metodi basati sugli hash si sono dimostrati efficaci per oltre un decennio, consentendo un'azione più rapida contro i contenuti illegali e aiutando le forze dell'ordine. Ad esempio, più di 200 aziende utilizzano la tecnologia PhotoDNA per impedire che i loro servizi vengano utilizzati per diffondere materiale pedopornografico", ha dichiarato un portavoce di ECPAT.
La Commissione europea intende, inoltre, utilizzare l'Intelligenza Artificiale (AI) per individuare i CSAM di nuova creazione e per segnalare i modelli di comportamento che potrebbero costituire un adescamento di minori.
Il professor Preneel ha dichiarato a Euronews che questi metodi, però, comporterebbero un rischio ancora maggiore di false incriminazioni.
"Anche se riduciamo il tasso di errore all'1%, con miliardi di immagini inviate nell'Ue ogni giorno, potremmo trovarci di fronte a decine di milioni di falsi positivi giornalieri", ha avvertito Preneel.
"Potremmo incriminare persone innocenti, accusandole dei reati più gravi".
Preneel avverte anche che gli adolescenti che condividono volontariamente e legalmente immagini di nudo tra loro potrebbero essere ingiustamente criminalizzati.
PUBBLICITÀPur riconoscendo che i modelli di Intelligenza Artificiale basati sul linguaggio per individuare i comportamenti di adescamento devono ancora essere ulteriormente sviluppati, ECPAT afferma che l'intelligenza artificiale è stata impiegata con successo per individuare nuovi CSAM con "bassi tassi di errore".
"Gli strumenti di rilevamento di CSAM sono specificamente addestrati a non trovare immagini legali", ha spiegato il portavoce di ECPAT. "Questi strumenti sono addestrati su CSAM noti, pornografia per adulti e immagini benigne, in particolare per distinguerli e per evitare che le immagini benigne vengano erroneamente interpretate come CSAM".
Mié Kohiyama, francese, un'altra sopravvissuta ad abusi sessuali su minori, si batte, come Rhiannon, per una regolamentazione più severa, e afferma che la prevalenza di immagini e video di abusi su minori online significa che l'Unione europea ha la responsabilità di agire.
"Più del 60% di queste immagini sono ospitate su server europei, quindi abbiamo la responsabilità di agire", ha spiegato Mié. "L'individuazione è fondamentale, e la rimozione ancora di più".
Le nuove regole potrebbero compromettere la privacy?
L'aspetto più contestato della proposta della Commissione è l'obbligo per le aziende tecnologiche di utilizzare la tecnologia di scansione lato client (CSS) per analizzare i messaggi degli utenti, comprese le comunicazioni crittografate end-to-end su piattaforme come Whatsapp, quando viene identificato un rischio.
PUBBLICITÀCiò significherebbe che i messaggi criptati, le immagini, le e-mail e le note vocali degli utenti potrebbero essere intercettati.
I difensori della privacy avvertono che ciò rappresenta una grave violazione del diritto alla privacy online e potrebbe essere facilmente manipolato da soggetti malintenzionati.
Il CSS è stato utilizzato brevemente da Apple nel 2021 per scansionare i caricamenti di iCloud, ma è stato disattivato nel giro di poche settimane quando il sistema è stato hackerato.
ECPAT International afferma che è importante ricordare che il CSS opera "prima che i dati vengano crittografati".
"Lo fa segnalando il CSAM prima che venga caricato e inviato attraverso un ambiente crittografato, così come WhatsApp, un servizio crittografato end-to-end, utilizza già una tecnologia per rilevare malware e virus", ha dichiarato un portavoce di ECPAT.
I critici di questa nuova legge avvertono anche che minare la crittografia potrebbe costituire un pericoloso precedente per i regimi autoritari, che potrebbero manipolare la tecnologia per individuare le critiche e prendere di mira i dissidenti.
PUBBLICITÀSecondo Mié, questo allarmismo è semplicemente un modo per distogliere l'attenzione dal vero problema.
"L'Europa è una democrazia, non una dittatura. E non siamo ingenui: in una dittatura, quando si vogliono spiare i cittadini, si spiano i cittadini. Non c'è bisogno di un nuovo regolamento".
I ministri dell'Ue possono trovare un compromesso?
La proposta di regolamento ha spaccato le capitali dell'Unione europea, con molti preoccupati per la "maturità" delle tecnologie e per la minaccia alla privacy dei consumatori. I ministri potrebbero decidere di dare il via libera ad alcuni aspetti del testo, accantonando altri piani fino a quando le tecnologie non saranno sufficientemente sviluppate.
Mié e Rhiannon hanno dichiarato a Euronews che i ministri dovrebbero evitare di piegarsi alle pressioni delle grandi lobby tecnologiche e digitali.
Secondo loro, il forte aumento del materiale abusivo dimostra che le misure volontarie adottate dalle aziende tecnologiche per individuare e rimuovere i contenuti sono chiaramente insufficienti.
Uno studio pubblicato martedì dalla WeProtect Global Alliance riferisce che il materiale pedopornografico segnalato è aumentato dell'87% dal 2019.
"Le aziende tecnologiche progettano i loro prodotti per attirare i bambini e coinvolgerli il più a lungo possibile. Se questo è il loro modello, deve essere un ambiente assolutamente sicuro per i bambini", ha detto Rhiannon.
PUBBLICITÀ"Il modello di autoregolamentazione delle aziende tecnologiche non ha funzionato, come dimostra il numero di bambini vittime di abusi. Dobbiamo legiferare su questo tema, dobbiamo costringere le aziende tecnologiche a proteggere i bambini", ha aggiunto.
Mié ritiene, inoltre, che il blocco dei 27 Stati membri abbia la responsabilità di proteggere i sopravvissuti agli abusi perpetrati con l'ausilio del digitale dalla ritraumatizzazione, derivante dal sapere che le immagini dei loro abus ipossono ancora essere visualizzate ogni giorno.
"Questi sopravvissuti hanno paura di tutto. Non possono uscire di casa. Alcune di loro hanno paura persino di usare Internet. Si tratta di persone totalmente emarginate dalla società", ha affermato l'autrice dello studio pubblicato dalla WeProtect Global Alliance..
"Dobbiamo proteggerle. Dobbiamo proteggere i bambini. Deve essere al primo posto nella mente di tutti".