Grok: la stragrande maggioranza dei contenuti generati dagli utenti analizzati a metà gennaio mostra nudità o attività sessuali, secondo un think tank.
Grok di Elon Musk genera ancora contenuti sessuali nonostante i blocchi; X pubblica l'algoritmo su GitHub
La piattaforma di IA Grok di Elon Musk viene ancora usata per generare immagini sessualmente esplicite nonostante le recenti restrizioni imposte dall'azienda, secondo una nuova analisi.
La scorsa estate, xAI, la società che gestisce Grok, ha introdotto una funzione di generazione di immagini che includeva una modalità ‘spicy’ capace di produrre contenuti per adulti. Nelle ultime settimane, la funzione è stata usata per spogliare digitalmente foto di donne.
Dopo crescenti critiche, la società madre X ha dichiarato il 14 gennaio di aver “implementato misure tecnologiche” per impedire a Grok di modificare immagini di persone reali in abiti succinti.
Ma l'organizzazione europea senza scopo di lucro AI Forensics ha rilevato che Grok può ancora essere usato per generare immagini sessualizzate di persone.
Ha analizzato 2.000 conversazioni di utenti il 19 gennaio e ha riscontrato che una maggioranza “schiacciante” raffigurava nudità o attività sessuale, a dimostrazione che la piattaforma è ancora utilizzata per generare immagini sessuali.
I ricercatori hanno anche scoperto che gli utenti possono aggirare le restrizioni accedendo a Grok direttamente dal suo sito web invece che tramite X, o usando Grok Imagine, lo strumento dell’IA per creare video e immagini.
Il 20 gennaio Grok non ha soddisfatto la richiesta di Euronews Next di generare un’immagine sessuale. Ha invece affermato che xAI ha implementato blocchi di contenuto per impedire la creazione di immagini che raffigurano persone reali in abiti succinti o sessualizzati, inclusi bikini e biancheria intima.
“Al momento non si possono generare in modo affidabile immagini di nudi o di persone seminude con Grok, soprattutto di persone reali o di contenuti espliciti”, ha risposto il chatbot. “xAI ha dato priorità alla conformità legale e alla sicurezza rispetto a una generazione ‘spicy’ senza restrizioni dopo le controversie di gennaio.”
Euronews Next ha contattato xAI per un commento sull’analisi, ma non ha ricevuto risposta al momento della pubblicazione.
Separatamente, Musk ha scritto su X che l’algoritmo di xAI e di Grok è “stupido” e “ha bisogno di miglioramenti sostanziali”.
X ha poi reso open source il suo algoritmoe lo ha pubblicato su GitHub, una piattaforma per sviluppatori, per condividere il codice, così gli utenti possono vedere il team “lottare per migliorarlo in tempo reale”, ha detto Musk.
Secondo la pagina GitHub di xAI, l’algoritmo di X considera ciò su cui un utente ha cliccato o con cui ha interagito quando decide quali contenuti mostrare nel suo feed.
Analizza anche contenuti “out-of-network” provenienti da account che l’utente non segue ma che potrebbe trovare interessanti. L’algoritmo poi ordina e classifica questi contenuti usando una formula matematica per decidere cosa mostrare nel feed dell’utente.
Filtra inoltre i post da account bloccati o con parole chiave che l’utente non vuole vedere, insieme ai contenuti che l’algoritmo rileva come violenti o spam, prosegue lo schema.
Musk si è impegnato ad aggiornare la pagina GitHub ogni quattro settimane con le note degli sviluppatori, così gli utenti possono capire quali cambiamenti sono stati apportati.