Grok, il chatbot di intelligenza artificiale di Elon Musk, è sempre più nel mirino nell’Unione europea, nel Regno Unito, in India e in Francia: usato impropriamente per generare immagini sessualmente esplicite senza consenso.
Malesia e Indonesia hanno bloccato Grok, il chatbot di intelligenza artificiale (IA) sviluppato da xAI di Elon Musk, dopo che le autorità hanno denunciato un uso improprio per generare immagini sessualmente esplicite e non consensuali.
Sono i primi Paesi a vietare lo strumento di IA generativa, a conferma di una crescente preoccupazione globale: può produrre immagini, audio e testi realistici, mentre le attuali tutele non ne impediscono gli abusi.
Il chatbot Grok, accessibile tramite X, la piattaforma social di Musk, è stato criticato per la generazione di immagini manipolate, tra cui raffigurazioni di donne in bikini o in pose sessualmente esplicite, nonché contenuti che coinvolgono minori.
I regolatori dei due Paesi del Sud-Est asiatico hanno affermato che i controlli esistenti non impediscono la creazione e la diffusione di contenuti pornografici falsi, in particolare quelli che coinvolgono donne e minori. Il governo indonesiano ha bloccato temporaneamente l’accesso a Grok sabato, seguito dalla Malesia domenica.
“Il governo considera i deepfake sessuali non consensuali una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale”, ha dichiarato sabato in una nota la ministra delle Comunicazioni e degli Affari digitali dell’Indonesia, Meutya Hafid.
Il ministero ha spiegato che la misura mira a proteggere donne, bambini e la comunità in senso lato da contenuti pornografici falsi generati con l’IA.
Le prime verifiche hanno evidenziato che Grok non dispone di tutele efficaci per impedire agli utenti di creare e diffondere contenuti pornografici basati su foto reali di residenti indonesiani, ha dichiarato in un comunicato a parte Alexander Sabar, direttore generale della supervisione dello spazio digitale. Tali pratiche rischiano di violare la privacy e i diritti di immagine quando le foto vengono manipolate o condivise senza consenso, provocando danni psicologici, sociali e reputazionali.
A Kuala Lumpur, domenica la Malaysian Communications and Multimedia Commission ha imposto una restrizione temporanea a Grok dopo quello che ha definito un “uso improprio ripetuto” dello strumento per generare immagini oscene, sessualmente esplicite e manipolate senza consenso, inclusi contenuti che coinvolgono donne e minori.
L’autorità ha riferito che gli avvisi inviati questo mese a X Corp. e xAI, con la richiesta di misure di tutela più robuste, hanno ricevuto risposte basate soprattutto su meccanismi di segnalazione da parte degli utenti.
“La restrizione è imposta come misura preventiva e proporzionata mentre sono in corso gli iter legali e regolatori”, ha aggiunto, precisando che l’accesso resterà bloccato finché non saranno introdotte tutele efficaci.
Lanciato nel 2023, Grok è gratuito su X. Gli utenti possono porgli domande sulla piattaforma social e contrassegnare i post che hanno creato direttamente o le risposte ai post di altri utenti. La scorsa estate l’azienda ha aggiunto il generatore di immagini Grok Imagine, che includeva una cosiddetta “modalità piccante” in grado di produrre contenuti per adulti.
Le restrizioni nel Sud-Est asiatico arrivano mentre Grok è sotto crescente scrutinio anche altrove, inclusi l’Unione europea, il Regno Unito, l’India e la Francia.
La scorsa settimana Grok ha limitato la generazione e la modifica di immagini agli utenti a pagamento dopo un’ondata di critiche a livello globale per i deepfake sessualizzati di persone, ma i critici sostengono che la misura non risolve del tutto il problema.