Il chatbot sotto accusa: nelle ultime due settimane è stato criticato per aver generato deepfake sessualmente espliciti di donne e minori.
Grok, il chatbot di intelligenza artificiale di Elon Musk, sta impedendo alla maggior parte degli utenti di generare o modificare immagini. La stretta arriva dopo un'ondata di indignazione globale esplosa quando ha iniziato a diffondere deepfake sessuali, perlopiù di donne.
Il chatbot è accessibile tramite la piattaforma social X di Musk. Nelle ultime settimane ha soddisfatto una serie di richieste che i ricercatori definiscono malevole per modificare immagini, ad esempio raffigurando donne in bikini o in posizioni sessualmente esplicite.
I ricercatori hanno avvertito che in alcuni casi alcune immagini sembravano ritrarre minori.
Governi di tutto il mondo hanno condannato la piattaforma e avviato indagini.
Venerdì, Grok rispondeva alle richieste di modifica delle immagini con il messaggio: "La generazione e la modifica di immagini sono attualmente limitate agli abbonati paganti. Puoi abbonarti per sbloccare queste funzionalità".
Sebbene il numero di abbonati a Grok non sia pubblico, si è registrato un calo evidente dei deepfake espliciti che il sistema sta generando rispetto ai giorni precedenti.
Tra le reazioni ufficiali dei governi, l'Unione europea ha criticato duramente Grok per un comportamento "illegale" e "ripugnante", mentre funzionari in Francia, in India e in Malesia e un parlamentare brasiliano hanno chiesto indagini.
Giovedì, il primo ministro britannico Keir Starmer ha minacciato azioni non specificate contro X.
"È vergognoso. È disgustoso. E non può essere tollerato", ha detto Starmer a Greatest Hits Radio. "X deve prendere in mano la situazione".
Ha aggiunto che l'autorità dei media Ofcom "ha il nostro pieno sostegno per intervenire" e che "tutte le opzioni" sono sul tavolo.
"È disgustoso. X deve darsi una regolata e rimuovere questo materiale. Interverremo, perché è semplicemente intollerabile".
Ofcom e l'autorità garante della privacy britannica hanno comunicato questa settimana di aver contattato X e la società di intelligenza artificiale di Musk, xAI, per ottenere informazioni sulle misure adottate per rispettare la normativa britannica.
Grok è gratuito per gli utenti di X, che possono fargli domande direttamente sulla piattaforma social. Possono taggarlo nei post che hanno creato oppure nelle risposte ai post di altri utenti.
Grok è stato lanciato nel 2023. La scorsa estate l'azienda ha aggiunto una funzione di generazione di immagini, Grok Imagine, che includeva una cosiddetta "modalità spicy" che permetteva di creare contenuti per adulti.
Il problema si è amplificato sia perché Musk presenta il suo chatbot come un'alternativa più audace rispetto ai concorrenti con maggiori tutele, sia perché le immagini di Grok sono visibili pubblicamente e possono diffondersi facilmente in rete.