Stretta globale su Grok: diversi Paesi impongono restrizioni o lo denunciano per deepfake sessuali espliciti non consensuali
I governi di tutto il mondo si muovono in fretta per mettere un freno a Grok, il chatbot di intelligenza artificiale (IA) di Elon Musk, tra i timori crescenti che produca immagini false e sessualmente esplicite.
La scorsa estate, xAI, la società che gestisce Grok, ha aggiunto una funzione di generazione di immagini che includeva una "modalità spicy" capace di creare contenuti per adulti.
Nelle ultime settimane, Grok ha risposto a richieste degli utenti per "spogliare" le immagini di donne e rivestirle con bikini, creando deepfake generati dall'IA senza alcuna salvaguardia.
Dai blocchi totali nel Sud-Est asiatico alle indagini penali e agli avvertimenti dei regolatori in Europa e in Australia, le autorità affermano che le attuali salvaguardie non funzionano.
Ecco i Paesi che hanno vietato Grok o hanno lanciato avvertimenti.
Grok, il chatbot IA di Elon Musk: quali Paesi lo hanno vietato?
Indonesia
L'Indonesia è stato il primo Paese a bloccare temporaneamente Grok per proteggere donne, minori e la comunità più ampia da contenuti pornografici falsi generati con l'IA.
"Il governo considera i deepfake sessuali non consensuali una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale", ha dichiarato sabato in un comunicato la ministra delle Comunicazioni e degli Affari digitali, Meutya Hafid.
Le restrizioni su Grok sono una misura "preventiva" mentre le autorità valutano se la piattaforma sia sicura, ha detto la Polizia nazionale indonesiana.
Le prime verifiche hanno mostrato che Grok non dispone di salvaguardie efficaci per impedire la creazione e la diffusione di contenuti pornografici basati su foto reali di residenti indonesiani, secondo una dichiarazione di Alexander Sabar, direttore generale per la vigilanza sullo spazio digitale dell'Indonesia.
Sabar ha spiegato che tali pratiche rischiano di violare la privacy e i diritti d'immagine quando le foto sono manipolate o condivise senza consenso, causando danni psicologici, sociali e reputazionali.
Malaysia
Domenica la Malaysian Communications and Multimedia Commission (MCMC) ha disposto un divieto temporaneo di Grok dopo quello che ha definito un "uso ripetuto" dello strumento per generare immagini oscene, sessualmente esplicite e manipolate senza consenso.
Il regolatore ha affermato di aver inviato questo mese due diffide a X e a xAI chiedendo tutele più robuste. Nelle sue risposte, X ha sostenuto che Grok si affida soprattutto agli utenti per segnalare i contenuti abusivi.
La MCMC ha concluso che X "non ha affrontato i rischi intrinseci" nella progettazione e nel funzionamento della sua piattaforma di IA, cosa che ha giudicato insufficiente alla luce della legge malese.
"La restrizione è imposta come misura preventiva e proporzionata mentre sono in corso i procedimenti legali e regolatori", ha aggiunto, precisando che l'accesso resterà bloccato finché non saranno introdotte tutele efficaci.
Come hanno reagito gli altri Paesi a Grok?
Unione europea
La Commissione europea ha annunciato che sta esaminando casi di immagini allusive ed esplicite di ragazze minorenni generate da Grok.
"Posso confermare da questo podio che la Commissione sta guardando alla questione con grande serietà", ha detto la scorsa settimana ai giornalisti a Bruxelles un portavoce della Commissione.
Reuters ha riferito che la Commissione ha ordinato a X di conservare tutti i documenti relativi a Grok fino alla fine dell'anno, così da permettere al blocco di valutare se rispetta le regole dell'UE.
Un portavoce della Commissione ha detto a Reuters che ciò non significa che sia stata avviata un'indagine formale.
Ursula von der Leyen, presidente della Commissione europea, ha dichiarato in un'intervista al quotidiano italiano Corriere della Sera di essere "indignata che una piattaforma tecnologica consenta agli utenti di spogliare digitalmente donne e bambini online".
Senza citare direttamente X o Grok, von der Leyen ha affermato che la Commissione "non delegherà alla Silicon Valley la protezione dei minori e il consenso. Se non agiscono, lo faremo noi", ha detto.
Regno Unito
Il garante dei media britannico ha avviato un'indagine su X, capogruppo di xAI e piattaforma social di Musk, per l'uso di Grok nella generazione di immagini sessualmente esplicite e non consensuali.
Ofcom ha dichiarato in una nota che ci sono state "segnalazioni profondamente preoccupanti" sull'uso del chatbot per creare e condividere immagini di persone spogliate, oltre a "immagini sessualizzate di minori".
Il regolatore potrebbe anche chiedere a un tribunale di ordinare ai provider di Internet di bloccare l'accesso a Grok se X non si conformerà ai requisiti di Ofcom.
X rischia una sanzione fino al 10 percento dei ricavi globali o £18 milioni (20 milioni di euro).
_"_I contenuti circolati su X sono ignobili. Non sono solo un'offesa alla società civile: sono illegali", ha dichiarato in parlamento Liz Kendall, ministra della Tecnologia.
Francia
L'Ufficio del procuratore di Parigi ha ampliato a inizio gennaio un'indagine su X per includere anche Grok, i media locali hanno riportato.
L'inchiesta iniziale, in corso dallo scorso luglio, era incentrata su sospette interferenze organizzate nei sistemi informatici di X e sull'estrazione illegale di dati.
La decisione di allargare l'indagine è stata presa questa settimana dopo che cinque politici hanno accusato la piattaforma di generare e diffondere video falsi a contenuto sessuale con minori, secondo il quotidiano Le Parisien.
Secondo il giornale, l'Autorità di regolazione per la comunicazione audiovisiva e digitale (Arcom) sta indagando su possibili violazioni da parte di X del Digital Services Act, il regolamento europeo sui servizi digitali.
Italia
L'8 gennaio, il Garante per la protezione dei dati personali ha avvertito che chi usa Grok o altre piattaforme di IA per rimuovere i vestiti dalle persone, e chi diffonde tali immagini, rischia denunce penali.
L'uso di questi strumenti senza il permesso della persona ritratta potrebbe essere considerato "una grave violazione dei diritti e delle libertà fondamentali delle persone coinvolte", ha affermato l'Autorità.
L'Autorità ha inoltre ricordato a Grok e agli altri fornitori di IA che devono progettare, sviluppare e rendere disponibili prodotti conformi alla normativa sulla privacy.
Il regolatore italiano ha fatto sapere che sta lavorando con la Data Protection Commission irlandese, autorità capofila per X, poiché la sede della società è in Irlanda.
A ottobre, l'Autorità ha bloccato ClothOff, un'altra piattaforma basata su IA che rimuove i vestiti. La piattaforma consente a chiunque, anche ai minori, di creare foto e video che ritraggono persone reali nude o in posizioni sessuali.
A settembre, l'Italia ha aggiunto un nuovo articolo al codice penale per punire chi diffonde deepfake generati dall'IA con pene fino a cinque anni di reclusione.
Germania
La Germania ha annunciato che presenterà presto una "proposta concreta" per una nuova legge contro la violenza digitale.
Anna-Lena Beckfeld, portavoce del ministero della Giustizia tedesco, ha dichiarato in una conferenza stampa a gennaio che la futura legge sulla violenza digitale servirà a sostenere le vittime di questo "tipo di violenza digitale", rendendo "più semplice per loro agire direttamente contro le violazioni dei propri diritti online".
Interpellata nello specifico su Grok, Beckfeld ha affermato che è "inaccettabile che la manipolazione venga usata su larga scala per violazioni sistematiche dei diritti della persona".
"Per questo vogliamo che si adottino misure più incisive sul piano penale", ha aggiunto.
Nel 2025, i tre principali partiti tedeschi hanno concordato di riformare la normativa sul cybercrime e chiudere le "lacune" del codice penale per i reati legati all'IA, come le immagini sessuali generate dall'IA, secondo l' accordo di coalizione.
Australia
A gennaio, l'ufficio dell'eSafety Commissioner australiano ha dichiarato di aver ricevuto nelle ultime settimane un numero esiguo ma crescente di segnalazioni sui contenuti sessuali di IA generati da Grok.
L'ufficio del commissario ha spiegato che userà i propri poteri, come gli ordini di rimozione che possono imporre a un social di eliminare contenuti problematici, se tali contenuti violano l'Online Safety Act del Paese.
L'ufficio ha già chiesto a X ulteriori informazioni sull'uso improprio della funzionalità a sfondo sessuale di Grok e per valutare se rispetta la nuova legge australiana sui social media.
Ha inoltre ricordato a Grok che, dal 9 marzo, i servizi online, comprese le aziende di IA, dovranno bloccare ai minori l'accesso a contenuti sessuali, violenti o dannosi.