Dopo proteste e indagini, xAI di Musk limita Grok: stop a immagini sessuali non consensuali e a deepfake illegali
Il chatbot AI di Elon Musk, Grok, non permetterà più di modificare foto per ritrarre persone reali in abiti succinti in paesi dove ciò è illegale, secondo quanto dichiarato sulla piattaforma di social media X.
L'annuncio, pubblicato mercoledì, arriva dopo una serie di proteste globali relative alla creazione di immagini sessuali di donne e bambini, con divieti e avvertimenti da parte di vari governi. Elon Musk aveva affermato poche ore prima di non essere a conoscenza di “immagini di minorenni nudi” generate da Grok.
La decisione segue anche l’apertura di un’indagine dello Stato della California sulla diffusione di materiale sessualmente esplicito non consensuale prodotto tramite il chatbot. Inizialmente, i media erano stati respinti con la risposta “i media tradizionali mentono”.
Secondo xAI, l’azienda di Musk, i contenuti vengono ora geobloccati se violano le leggi locali. “Abbiamo implementato misure tecnologiche per impedire che l’account Grok consenta la modifica di immagini di persone reali in abiti rivelatori, come bikini o lingerie”, ha dichiarato l’azienda.
La regola riguarda tutti gli utenti, compresi gli abbonati a pagamento, e le funzioni di creazione e modifica delle immagini sono ora limitate agli abbonati, per garantire la tracciabilità di eventuali abusi.
La cosiddetta “modalità piccante” di Grok, che permetteva la creazione di contenuti espliciti, aveva già suscitato reazioni governative. Malesia e Indonesia hanno bloccato l’accesso al servizio, mentre Regno Unito e Unione europea stanno indagando su possibili violazioni delle leggi sulla sicurezza online. Anche Francia, India e Brasile hanno lanciato richieste di controlli più severi.
Secondo l’annuncio della California, le funzioni di editing di Grok avevano “facilitato la produzione su larga scala di immagini intime deepfake non consensuali utilizzate per molestare donne e ragazze online, anche tramite X”.
Il procuratore generale californiano Rob Bonta ha dichiarato: “La valanga di rapporti su materiale non consensuale e sessualmente esplicito prodotto da xAI nelle ultime settimane è scioccante. Questo materiale, che ritrae donne e bambini in situazioni di nudo e sessualmente esplicite, è stato utilizzato per molestare persone su Internet”.
Bonta ha concluso ribadendo la tolleranza zero per la creazione e diffusione di immagini intime non consensuali o materiale pedopornografico basato sull’AI.