Le autorità denunciano l’uso improprio di Grok. Viene usato per creare immagini generate dall’IA sessualmente esplicite e non consensuali.
Le autorità malesi hanno annunciato martedì che avvieranno un’azione legale contro X, il social network di Elon Musk, e la sua unità di intelligenza artificiale xAI, accusando le aziende di non garantire la sicurezza degli utenti del chatbot Grok.
PUBBLICITÀ
PUBBLICITÀ
La decisione arriva a pochi giorni da quando Malesia e Indonesia sono diventati i primi Paesi a bloccare accesso a Grok, mentre crescono i timori che venga usato per generare immagini sessualmente esplicite e non consensuali.
La Commissione malese per le Comunicazioni e i Multimedia ha dichiarato in un comunicato di aver rilevato l’uso improprio di Grok per generare e diffondere contenuti dannosi, tra cui immagini sessualmente esplicite, oscene, estremamente offensive e manipolate senza consenso.
Ha precisato di aver notificato a X e xAI, questo mese, la richiesta di rimuovere i contenuti dannosi, ma non è stata intrapresa alcuna azione.
“I contenuti che coinvolgerebbero donne e bambini sono motivo di grande preoccupazione. Tale condotta è contraria alla legge malese e mina gli impegni di sicurezza” dichiarati dalle aziende, si legge. La Commissione ha nominato un avvocato e ha affermato che le procedure legali inizieranno presto.
Gli strumenti di IA generativa che possono produrre immagini, audio e testi realistici sono sotto crescente scrutinio. Cresce anche la preoccupazione che le tutele esistenti non bastino a impedirne gli abusi.
Lanciato nel 2023, Grok è gratuito su X. Lo scorso anno è stata aggiunta la funzione di generazione di immagini, Grok Imagine, che include una cosiddetta modalità spicy in grado di creare contenuti per adulti. Grok è stato criticato per la creazione di immagini manipolate, tra cui raffigurazioni di donne in bikini o in pose sessualmente esplicite, e immagini che coinvolgono minori.
Grok è finito sotto pressione nell’Unione europea, in India e nel Regno Unito, che lunedì ha annunciato l’intenzione di criminalizzare le cosiddette “nudification apps”. L’autorità dei media britannica ha avviato anche un’indagine per stabilire se Grok abbia violato la legge permettendo agli utenti di condividere immagini sessualizzate di minori.
La settimana scorsa Grok ha limitato la generazione e la modifica di immagini agli utenti paganti, dopo le proteste globali per i deepfake sessualizzati di persone. Secondo i critici, però, la misura non risolve del tutto il problema.
Musk e le sue aziende non hanno commentato pubblicamente le restrizioni nel Sud-Est asiatico. xAI ha inviato risposte automatiche alle richieste dei media con la frase: “Legacy Media Lies.”