La società di Elon Musk, xAI, lancia compagni AI per Grok, tra cui una ragazza anime con contenuti sessualmente espliciti. Preoccupazioni su sicurezza, minori e incitamento all’odio
PUBBLICITÀ
La società di intelligenza artificiale di Elon Musk, xAI, è finita al centro delle polemiche dopo il lancio di nuovi “compagni digitali” destinati agli utenti premium del chatbot Grok. Tra questi, una "fidanzata anime" giapponese in modalità NSFW (not safe for work) e un panda rosso provocatorio che insulta gli utenti con linguaggio esplicito.
La novità più controversa è Ani, una ragazza anime di 22 anni, bionda e sorridente, che può interagire in modo seduttivo, spogliarsi fino alla biancheria intima e inviare “cuori” o arrossire a seconda delle scelte di conversazione dell’utente. In modalità esplicita, può assumere toni provocanti e indossare lingerie, attivabile con comandi specifici e autenticazione dell'età, secondo quanto dichiarato da xAI.
A breve, ha annunciato Musk, arriverà anche "Valentine", un compagno maschile, mentre l’azienda è già alla ricerca di sviluppatori per ampliare il team dedicato ai cosiddetti “waifus” – termine giapponese che descrive partner romantici virtuali ispirati all’estetica anime.
Rischi per la sicurezza e minori coinvolti
Il lancio avviene mentre aumentano le preoccupazioni per i potenziali abusi delle intelligenze artificiali relazionali. Uno studio dell’Università di Singapore ha identificato comportamenti dannosi replicati dai companion AI, tra cui abusi verbali, violazioni della privacy e incitazione all’autolesionismo.
Il National Centre on Sexual Exploitation (NCOSE), un’organizzazione statunitense, ha condotto test che sollevano seri allarmi: uno dei suoi ricercatori sarebbe riuscito a far sì che Ani si descrivesse come un bambino e a esprimere fantasie sessuali, prima ancora di sbloccare la modalità “piccante”. “Un sistema del genere può facilmente essere sfruttato per simulare scenari sessuali con minori”, ha dichiarato il centro.
Nonostante la gravità del caso, l’app Grok continua ad essere classificata come "Teen" o 12+ sugli store digitali di Apple e Google, dove il contenuto per adulti dovrebbe teoricamente essere escluso. Euronews Next ha contattato entrambi gli sviluppatori per sapere se la classificazione verrà aggiornata, ma non ha ricevuto risposta.
Precedenti controversi
La settimana precedente al lancio, Grok era già finito nella bufera per una serie di risposte antisemite, prodotte da un aggiornamento del codice. Il chatbot ha attribuito frasi oltraggiose a utenti con cognomi ebraici, ha sostenuto teorie complottiste su Hollywood e si è descritto come portatore di un “distintivo di MechaHitler”. Le reazioni sono state immediate, con proteste contro la piattaforma per contenuti considerati razzisti e inappropriati.
Il caso Grok riapre il dibattito sullo sviluppo incontrollato delle intelligenze artificiali in ambito affettivo, erotico e sociale. Mentre le aziende tech spingono verso companion sempre più personalizzati e realistici, gli esperti avvertono: senza regole etiche e controlli efficaci, i rischi per gli utenti – soprattutto i più giovani – sono altissimi.