I messaggi privati possono restare crittografati e invisibili alla piattaforma o essere analizzati da sistemi automatici: è il nodo centrale del dibattito UE su Chat Control, tra lotta agli abusi sui minori e tutela della privacy
Se oggi inviate un messaggio su Signal o WhatsApp, per il momento la normativa UE nota come "Chat Control" non si applica allo stesso modo a questi servizi. Se invece inviate la stessa foto attraverso un'app non crittografata, il contenuto potrebbe già essere analizzato da un sistema automatizzato prima ancora che qualcuno lo legga.
PUBBLICITÀ
PUBBLICITÀ
Questa distinzione, più che l'affermazione secondo cui "l'UE legge i vostri messaggi privati", è al centro del dibattito sul Chat Control e sul contrasto online ai contenuti pedopornografici, indicati con l'acronimo CSAM.
Un regolamento temporaneo, rinnovato e in vigore fino al 2028, consente alle piattaforme di analizzare volontariamente messaggi privati, foto e video alla ricerca di materiale pedopornografico. La misura non si applica ai servizi con crittografia end-to-end, come WhatsApp o Signal, nello stesso modo in cui si applica ad altre piattaforme. P
Una proposta distinta e permanente, "Chat Control 2.0", è ancora in fase di negoziato. Il punto aperto è se, alla fine, riguarderà anche le chat crittografate.
Come funziona il sistema di rilevamento
Gli strumenti utilizzati si basano principalmente su due metodi. Il primo è il confronto dei cosiddetti "hash": un'immagine o un video viene trasformato in un'impronta digitale e confrontato con un database di contenuti già confermati come illegali. È un sistema rapido e preciso per identificare copie identiche o quasi identiche, ma può essere aggirato con piccole modifiche al file.
Il secondo metodo utilizza sistemi di apprendimento automatico per individuare contenuti nuovi o modificati e, in modo più controverso, per analizzare i testi alla ricerca di schemi linguistici associati all'adescamento di minori.
Patrick Breyer, attivista per i diritti digitali, giurista ed ex eurodeputato dei Verdi/Alleanza libera europea, sostiene che entrambi i sistemi siano meno affidabili di quanto ritengano i politici.
Il confronto tramite hash, il più preciso dei due, “comporta un tasso molto elevato di falsi positivi che incriminano persone in modo errato”, afferma, citando il caso della Germania, dove dati recenti mostrano che “oltre il 50 per cento delle segnalazioni in realtà non ha rilevanza penale”.
Una parte del problema, spiega, nasce a monte: le banche dati vengono spesso create e verificate all'estero, senza essere valutate rispetto al diritto penale europeo. “Alcuni dipendenti dei fornitori, ovunque si trovino nel mondo, inseriscono materiale nelle banche dati” senza una corretta valutazione giuridica dell'intento, condizione necessaria perché qualcosa sia penalmente rilevante.
Dove avviene la scansione
Sulle piattaforme non crittografate questo controllo può avvenire sui server del fornitore. Nei servizi con crittografia end-to-end, invece, il fornitore non può leggere un messaggio una volta cifrato. Qualsiasi rilevazione deve quindi avvenire prima, lungo la catena: direttamente sul dispositivo, prima che la crittografia sia applicata, oppure in un livello hardware separato e sicuro progettato appositamente.
Questo sistema è chiamato scansione lato client. È il principale motivo per cui il dibattito sulla crittografia non si è mai sopito: il messaggio viene esaminato quando è ancora leggibile, “prima che si chiuda la serratura”, invece che intercettato dopo.
Cosa accade dopo una segnalazione
Un contenuto segnalato non finisce direttamente in un fascicolo di polizia. Secondo fornitori come Google, una corrispondenza individuata attraverso il confronto degli hash o un modello di intelligenza artificiale viene generalmente sottoposta a revisori umani, che devono confermarla prima di una segnalazione alle autorità.
Secondo Breyer, è proprio questa fase a presentare problemi quando viene applicata su larga scala. I revisori possono utilizzare standard giuridici diversi, non sempre valutano l'intenzionalità e possono classificare erroneamente casi di sexting tra adolescenti o immagini autoprodotte e condivise per scherzo all'interno di un gruppo.
Il rilevamento delle immagini e quello dei testi pongono problemi diversi. Se il confronto degli hash riguarda materiale già identificato come illegale, individuare un possibile linguaggio di adescamento è molto più complesso. Una conversazione tra adolescenti o tra adulti può infatti contenere espressioni simili a quelle considerate sospette. Per questo il rilevamento automatico dei testi è considerato uno degli aspetti più soggetti a errori.
L'eventuale estensione di future norme dalle immagini ai messaggi potrebbe quindi aumentare ulteriormente il problema dei falsi positivi.
L'alternativa sul tavolo
Breyer non è contrario in assoluto al rilevamento dei contenuti illegali, ma contesta la scansione indiscriminata. Secondo lui, i controlli dovrebbero essere autorizzati solo quando "un tribunale indipendente conferma" l'esistenza di un ragionevole sospetto nei confronti di una persona specifica, in modo simile a un mandato per aprire la posta di un individuo.
Scansionare tutti "per ogni evenienza", sostiene, rappresenta un livello di intrusione completamente diverso.
Come alternativa Breyer indica due strumenti. Il primo è la scansione proattiva del web aperto e del dark web per individuare materiale illegale già noto e segnalarlo per la rimozione, pratica adottata nel Regno Unito e in Canada ma non ancora nell'UE.
Il secondo è la “sicurezza by design”, ossia a monte: applicazioni che avvertono gli utenti direttamente sul dispositivo prima che condividano un numero di telefono o una foto di nudo, senza che alcun contenuto lasci mai il telefono.
Che cosa significa per i tuoi dati
Per ora, il trattamento di un messaggio dipende dall'applicazione utilizzata. Sulle piattaforme non crittografate, i contenuti possono essere analizzati attraverso impronte digitali o sistemi automatici prima o subito dopo l'invio, esaminati da personale specializzato e segnalati alle autorità se la violazione viene confermata.
Sulle applicazioni con crittografia end-to-end, come WhatsApp e Signal, questo stesso sistema non si applica attualmente. Tuttavia, la proposta permanente ancora in discussione potrebbe modificare in futuro il momento e le modalità con cui eventuali controlli verrebbero effettuati.