La Commissione europea ha avviato un'indagine formale su X dopo le proteste per l'incapacità della piattaforma di impedire la creazione di immagini sessualmente esplicite di persone reali, compresi i bambini
La Commissione europea ha avviato un'indagine formale su Grok, il sistema di intelligenza artificiale di X, per aver permesso a milioni di utenti di spogliare virtualmente foto di donne reali e ragazze minorenni senza il loro consenso.
L'indagine cercerà di capire se la piattaforma social di Elon Musk ha fatto il possibile per mitigare il rischio di creazione e diffusione delle immagini.
Se X dovesse violare le norme dell'Ue in materia di piattaforme online secondo legge sui servizi digitali (Dsa), la Commissione potrebbe infliggere all'azienda una multa fino al 6 per cento del suo fatturato annuo globale.
La Commissione europea ha già inflitto al social network una multa di 120 milioni di euro lo scorso dicembre per le sue pratiche di verifica degli account e di pubblicità.
Le preoccupazioni sono emerse la scorsa estate dopo che Grok è stato potenziato con una funzione a pagamento nota come "Spicy Mode", che permetteva agli utenti di creare contenuti sessualmente espliciti.
Elon Musk ha deriso le proteste che ne sono seguite con un post irriverente pubblicato sul suo account X.
Mentre cresceva l'indignazione mondiale per questa funzione, un portavoce della Commissione a inizio gennaio ha condannato questa funzionalità con termini forti.
"Questo non è 'piccante'", ha detto. "È illegale. È spaventoso. È disgustoso. Non c'è posto per questo in Europa".
In risposta alla rabbia e all'allarme dell'opinione pubblica, X ha infine implementato misure per impedire a Grok di consentire la modifica di immagini di persone reali per metterle in abiti succinti e in situazioni sessuali, con restrizioni che si applicano a tutti gli utenti, compresi gli abbonati.
L'ex Twitter ha inoltre dichiarato che le immagini sessuali di bambini modificate da Grok sono state rimosse dalla piattaforma e che gli utenti coinvolti nella loro creazione sono stati banditi.
"Prendiamo provvedimenti contro i contenuti illegali su X, incluso il materiale di abuso sessuale su minori, rimuovendoli, sospendendo permanentemente gli account e collaborando con i governi locali e le forze dell'ordine, se necessario", riporta l'account di X Safety.
Non è la prima volta che Grok è sotto esame per sospette violazioni della legge europea. Lo scorso novembre, il chatbot Ai ha generato contenuti di negazione dell'Olocausto.
Attualmente sono in corso indagini sul chatbot della piattaforma in Francia, Regno Unito, Germania e Australia. Grok è stato completamente vietato in Indonesia e Malesia.
La Commissione ha dichiarato di aver inviato una richiesta di informazioni ai sensi della Dsa e che sta ancora analizzando la risposta.