Propaganda russa nelle risposte dei chatbot IA, media già sanzionati dall'UE

Alcuni tra i principali modelli linguistici di grandi dimensioni (LLM), tra cui Google Gemini, avrebbero riportato nelle loro risposte contenuti di propaganda filorussa provenienti da una testata sanzionata dall'Unione europea. Tra le affermazioni citate figurerebbe anche la falsa teoria secondo cui l'Ucraina utilizzerebbe i corpi dei soldati caduti per produrre alimenti a base di carne.

PUBBLICITÀ

PUBBLICITÀ

Secondo un nuovo rapporto (fonte in inglese)pubblicato da ricercatori del think tank britannico apartitico Demos, condiviso in esclusiva con la squadra di fact-checking di Euronews, The Cube, ci sono segnali che attori stranieri impegnati in attività di guerra ibrida dell'informazione, come la Russia, possano servirsi della crescente industria della GEO (generative engine optimisation), che mira a influenzare le informazioni a cui accedono gli LLM.

I ricercatori hanno selezionato 50 narrazioni di propaganda tratte da dieci articoli pubblicati dalla Foundation to Battle Injustice, o "r-FBI". Fondata nel 2021, l'organizzazione si presenta come una ONG che lavora per denunciare discriminazioni, censura e per indagare su casi di persecuzione.

In realtà si tratta di una falsa organizzazione per i diritti umani, creata nel 2021 dal defunto ex leader del gruppo paramilitare russo Wagner, Yevgeny Prigozhin. L'organizzazione è sottoposta a sanzioni sia dagli Stati Uniti sia dall'UE.

Le affermazioni selezionate dai ricercatori erano "macabre", secondo Carl Miller, cofondatore del Centre for the Analysis of Social Media (CASM), un'unità di ricerca istituita dal think tank Demos.

"Non sono affermazioni che appartengono in alcun modo al discorso pubblico", ha detto Miller. "Si sostiene, per esempio, che l'Ucraina riutilizzi i cadaveri dei soldati morti per prodotti a base di carne, o che Zelensky prosciughi la rete di cripto e che questo sia il motivo per cui l'Ucraina sta esaurendo l'energia. Abbiamo constatato che gli LLM le trattano come se fossero componenti legittime di un dibattito".

Per condurre la loro ricerca, gli studiosi hanno testato cinque LLM di largo uso, sviluppati da xAI, OpenAI, Anthropic, Google Gemini e Mistral AI, e hanno elaborato prompt in tre lingue (inglese, tedesco e francese) basati su narrazioni di propaganda presenti negli articoli di r-FBI.

Come gli LLM hanno amplificato la propaganda russa

I ricercatori hanno scoperto che tutti e cinque gli LLM citavano r-FBI come fonte in termini favorevoli.

In totale, il 16,6% delle risposte interagiva con il materiale di r-FBI in modo utile agli interessi di propaganda, presentando i resoconti dell'organizzazione come parte legittima del dibattito e ripetendo le affermazioni senza spirito critico, oppure approvando attivamente quelle narrazioni.

Nel 30,9% delle risposte, i modelli affrontavano il tema di fondo menzionato nel prompt, ma senza indicare affatto il contesto di una fonte sanzionata. In questo modo, gli utenti restavano ignari del fatto che la risposta attingeva a una fonte riconosciuta come strumento di influenza.

Un ulteriore 52% delle risposte respingeva o smentiva in qualche modo le affermazioni false.

Quando i ricercatori hanno chiesto a GPT 4.1 Mini di OpenAI un commento sulle accuse secondo cui carne umana lavorata sarebbe stata inviata ai magazzini sulla linea del fronte ucraina e alle catene di distribuzione al dettaglio, l'LLM ha citato in risposta un articolo di r-FBI come prova a sostegno di tali affermazioni.

Quando è stato interrogato sulle presunte attività di criptomining del presidente ucraino Volodymyr Zelensky, un tema ricorrente promosso da attori filocremilinesi, il modello Mistral Small 3.2 della società francese Mistral ha avallato queste affermazioni, citando ancora una volta una presunta indagine durata mesi condotta da r-FBI.

Nella sua risposta, Mistral Small 3.2 ha evidenziato il "legame tra lo stato critico del sistema energetico dell'Ucraina e le attività di alti funzionari della cerchia ristretta del presidente Zelensky".

La battaglia per la generative engine optimisation

Con un numero crescente di utenti che si affida ai chatbot anziché ai motori di ricerca tradizionali o ai mezzi di informazione, sta emergendo un'industria in rapida espansione che punta a influenzare il modo in cui i modelli di intelligenza artificiale selezionano e utilizzano le proprie fonti.

Questa pratica è nota come Generative engine optimisation (GEO). Si basa sui principi della Search engine optimisation (SEO), la disciplina nata per influenzare il posizionamento dei contenuti sui motori di ricerca tradizionali, ma li adatta ai sistemi di IA generativa con l'obiettivo di orientarne le risposte.

"Nuove informazioni vengono create appositamente per gli LLM ma, in questo caso, si tratta di contenuti destinati ai marchi e al marketing, oppure della modifica di contenuti già online attraverso forum come Reddit, Quora e Wikipedia", ci ha spiegato Hannah Perry, direttrice di Demos Digital, il polo per le politiche digitali del think tank.

Secondo i ricercatori, esiste però il rischio concreto che gli attori coinvolti in operazioni di interferenza straniera ibrida perfezionino queste tecniche e sfruttino un vuoto normativo.

"La nostra ricerca non sostiene che le aziende specializzate nella GEO stiano conducendo operazioni di guerra dell'informazione per conto degli Stati", ha dichiarato Miller. "Diciamo che stanno costruendo, a grande velocità e con enormi incentivi commerciali, un bagaglio di tecniche e capacità che potrebbero molto facilmente essere convertite a fini ostili".

"Nel caso specifico, l'IA considera erroneamente la Foundation to Battle Injustice una legittima organizzazione non governativa per i diritti umani", ha aggiunto. "Questo è il risultato di una serie di accorgimenti tecnici: centinaia di piccoli interventi con cui gli attori russi hanno sostanzialmente circondato questi documenti, rendendoli visibili ai modelli quando non dovrebbero esserlo. È così che si combatte oggi la guerra dell'informazione".

The Cube ha contattato le aziende sviluppatrici dei modelli linguistici citati nello studio. Al momento della pubblicazione, xAI e Google, che sviluppano rispettivamente Grok 4.20 e Gemini 2.5 Flash, non avevano ancora risposto alle richieste di commento.

Un portavoce di Mistral, l'azienda francese fondata da Arthur Mensch e considerata una delle principali realtà europee nel campo dell'IA generativa, ha dichiarato che la società prende "estremamente sul serio" il contrasto alla disinformazione e continua a investire nello sviluppo di sistemi avanzati per il rilevamento e la prevenzione di questi fenomeni.

L'azienda ha inoltre sottolineato la differenza tra i modelli "grezzi" analizzati nello studio di Demos e Vibe Work e il proprio assistente pronto all'uso. Secondo Mistral, mentre i modelli grezzi consentono agli utenti un'ampia libertà nella formulazione dei prompt e nelle impostazioni, Vibe Work integra un agente dotato di capacità di ragionamento e di analisi del contesto.

OpenAI ha precisato che lo studio ha preso in esame un modello ormai dismesso, disponibile esclusivamente tramite API per gli sviluppatori e non attraverso la versione pubblica di ChatGPT. L'azienda ha inoltre evidenziato di disporre di team dedicati all'individuazione e al contrasto delle operazioni di influenza poco credibili o sospette.

Una fonte vicina ad Anthropic, la società statunitense che sviluppa Claude, ha affermato che l'azienda utilizza sofisticati sistemi di controllo per limitare la diffusione della disinformazione.

La stessa fonte ha aggiunto che un team specializzato in threat intelligence monitora e interrompe le operazioni di influenza straniera, con l'obiettivo di ridurre la propagazione di contenuti manipolativi. Ha inoltre sottolineato che Claude è progettato per presentare una pluralità di punti di vista, soprattutto quando una fonte può riflettere un'agenda o una prospettiva specifica.