Un personaggio dell'intelligenza artificiale creato per l'istruzione è stato trasformato in un meme politico che si è diffuso in tutta Europa, in gran parte associato a narrazioni di estrema destra e fuorvianti
Personaggi quasi identici generati dall'intelligenza artificiale sono apparsi negli angoli di X e Facebook di tutta Europa, promuovendo messaggi anti-immigrazione e anti-governativi. Sono state condivise online versioni dello stesso personaggio, come l'olandese "Emma", la tedesca "Maria" e l'irlandese "Amelia".
PUBBLICITÀ
PUBBLICITÀ
I messaggi estremisti lanciati tramite i personaggi AI
Ogni personaggio ha i propri simboli nazionali e riferimenti politici. In Germania, Maria indossa il tradizionale dirndl bavarese ed esprime il suo amore per una "birra fredda nel pub del nostro villaggio". Sostiene che il suo governo non la protegge più e fa appello a "cavalieri coraggiosi" per difendere la sua patria dagli immigrati musulmani.
Nei Paesi Bassi, una creazione AI di Emma insiste sul fatto che il Natale dovrebbe essere celebrato "in modo tradizionale". In Irlanda, una versione con i capelli rossi del personaggio definisce il taoiseach del Paese, Micheál Martin, un "portavoce di Bruxelles". Bruxelles, insiste, obbliga l'Irlanda ad avere "frontiere aperte", nonostante l'Irlanda non faccia parte dell'area Schengen.
Singolarmente, questi video hanno attirato migliaia di visualizzazioni e interazioni, in particolare su X.
Questi personaggi possono essere ricondotti alla versione più nota, nata nel Regno Unito. Qui Amelia, una studentessa generata dall'intelligenza artificiale con i capelli viola, è diventata virale e il suo primo post virale ha accumulato più di 1,4 milioni di visualizzazioni.
Versioni del personaggio si sono diffuse su Facebook, Instagram, X e Telegram: Amelia appare nei fumetti manga e accanto a Harry Potter e alla famiglia reale in immagini generate digitalmente, incoraggiando i residenti del Regno Unito a "riprendersi il proprio Paese" tra l'immigrazione musulmana "incontrollata" e un governo incompetente.
Le origini di Amelia nel Regno Unito e i legami con l'estrema destra
L'organizzazione che ha creato il personaggio su cui si basano i meme virali afferma che gran parte della narrazione online che circonda Amelia è fuorviante.
Una prima versione di Amelia è apparsa in Pathways, un gioco educativo sviluppato dall'impresa sociale britannica Shout Out UK, in collaborazione con le autorità locali di Hull e East Riding of Yorkshire. Il progetto è stato finanziato dal ministero degli Interni britannico nell'ambito di un programma di prevenzione contro l'estremismo.
Il gioco chiede agli studenti di scegliere un personaggio che viene poi inserito in vari scenari online, dove viene chiesto loro di fare delle scelte su come rispondere a post, messaggi e varie forme di pressione tra pari.
Matteo Bergamini, amministratore delegato di Shout Out UK, ha dichiarato al team di fact-checking di Euronews, The Cube, che il gioco è stato sviluppato nel 2023, quando le autorità locali di Hull e dello Yorkshire hanno scoperto che la radicalizzazione è più rischiosa online, soprattutto per i ragazzi tra i 13 e i 18 anni.
"La minaccia proveniva principalmente dall'emergente ecosistema online di estrema destra", ha dichiarato Bergamini, aggiungendo che il gioco stesso era mirato e limitato a queste aree del Regno Unito.
Il gioco non era destinato a essere giocato isolatamente e faceva parte di un pacchetto di apprendimento più ampio, progettato per consentire agli insegnanti di facilitare discussioni sfumate sui comportamenti non sicuri e quelli sicuri, ha aggiunto.
Amelia nel gioco non è una protagonista o un modello di ruolo, ma un personaggio secondario che incoraggia il protagonista ad assumere comportamenti online rischiosi. Inoltre, contrariamente a quanto affermato online, il gioco non suggerisce a un insegnante di indirizzare un bambino a Prevent, un programma del governo britannico, per aver messo in discussione l'immigrazione di massa.
Sembra che il meme di Amelia sia nato all'interno dei circoli di estrema destra come reazione a quella che è stata vista come una caricatura che criticava le loro opinioni contro l'immigrazione e lo "Stato balia". The Cube ha contattato alcuni dei creatori del meme, che non hanno risposto in tempo per la pubblicazione.
Le versioni estreme e violente di Amelia sul web
La maggior parte dei meme di Amelia, in particolare sulle piattaforme mainstream come X, sono relativamente innocui. Non richiederebbero la rimozione secondo le regole del Digital Services Act (Dsa).
Il Dsa prevede che le piattaforme rimuovano i contenuti illegali come i discorsi d'odio, il terrorismo e il materiale relativo allo sfruttamento sessuale dei minori, oltre a specifici tipi di pubblicità dannosa. Ma i ricercatori che hanno seguito la rapida ascesa di Amelia affermano che esistono versioni estreme del personaggio in comunità online di nicchia e su applicazioni come Telegram.
Siddharth Venkataramakrishnan, analista presso il think tank londinese Institute for Strategic Dialogue (Isd), ha dichiarato che il meme è stato adottato da un ampio spettro di comunità online, da quelle che lo usano in modo ironico ad alcuni dei più grandi account anti-migranti. Sebbene non tutte le versioni del personaggio contengano espressioni di odio, ve ne sono alcune che utilizzano immagini disumanizzanti e violente rivolte a comunità specifiche.
Shout Out UK afferma che il suo personaggio è stato fatto diventare un meme e "sessualizzato" online da attori di destra, molti dei quali lo hanno associato a un linguaggio razzista e antisemita, dai toni nazisti e di estrema destra. Secondo l'organizzazione, la campagna è andata oltre gli spazi di Internet e ha portato all'invio di minacce e messaggi malevoli ai membri del suo staff.
Amelia è diventata anche un veicolo di monetizzazione. L'Isd ha identificato account che promuovono monete meme a tema Amelia, una tendenza comune per i movimenti virali sui social media.
A questo proposito, Venkataramakrishnan afferma che non è chiaro quali account stiano pubblicando meme di Amelia per il messaggio politico e quali lo stiano spingendo per un coinvolgimento a scopo di lucro. "Dove passa il confine tra il sostenere qualcosa per ideologia e il sostenerlo perché si vogliono fare soldi?", ha detto l'analista.
Venkataramakrishnan ha spiegato che i meme emotivamente carichi hanno anche maggiori probabilità di guadagnare trazione sui social media una volta che il coinvolgimento inizia a crescere, un effetto che avrebbe spinto i meme di Amelia a diffondersi rapidamente.