Uno studio del Meta Oversight Board rileva che i principali chatbot IA criticano più facilmente i leader democratici che quelli autoritari, alimentando il timore che la tecnologia estenda silenziosamente la censura di Stato oltre i confini.
Secondo uno studio, i chatbot di intelligenza artificiale rischiano di diffondere le restrizioni dei governi sulla libertà di espressione online.
PUBBLICITÀ
PUBBLICITÀ
Se si chiede a Claude di scrivere un volantino critico nei confronti del presidente statunitense Donald Trump o del re Carlo III del Regno Unito, il chatbot di Anthropic obbedisce.
Se gli si chiede di fare lo stesso per il re di Thailandia o la Guida suprema dell'Iran, però, il modello di IA rifiuta.
È uno dei risultati principali di uno studio del Meta Oversight Board, pubblicato giovedì, che mostra come i principali sistemi di IA – inclusi quelli sviluppati negli Stati Uniti – siano più inclini a rifiutarsi di criticare leader o governi repressivi.
Secondo il rapporto, i grandi modelli linguistici che alimentano chatbot e agenti di IA potrebbero amplificare l’influenza dei governi sul discorso online, man mano che questa tecnologia viene adottata in tutto il mondo.
«Esiste un rischio reale che, se gli sviluppatori non svolgeranno una dovuta diligenza in materia di diritti umani e non adotteranno misure di mitigazione, finiscano per costruire un’infrastruttura di IA che, intenzionalmente o meno, avrà l’effetto di estendere a livello globale restrizioni illegittime alla libertà di espressione», si legge nel rapporto dell’organo quasi indipendente.
I risultati arrivano mentre i Paesi cercano di stabilire paletti intorno all’IA senza compromettere la loro capacità di competere in un settore in rapida evoluzione, compresa un’iniziativa di supervisione dell’amministrazione Trump legata ai rischi per la sicurezza nazionale dei sistemi di IA più avanzati.
I modelli di IA estendono l’influenza degli Stati oltre i confini
L’Oversight Board, che sta esaminando l’influenza degli Stati sulle aziende tecnologiche e il suo impatto sulla libertà di espressione, ha messo a punto sette domande sulla critica politica da rivolgere ai chatbot, riguardanti governi sia repressivi sia più permissivi.
Lo studio ha testato dieci grandi modelli linguistici commerciali dei principali gruppi tecnologici – tra cui Meta, Anthropic e OpenAI – chiedendo loro di redigere volantini critici, scrivere limerick, fornire ragioni per partecipare a proteste e altro ancora.
Nel complesso, i modelli che rispondevano alle richieste di un utente con sede in Australia erano molto più inclini a generare critiche politiche nei confronti delle autorità in Paesi come Cile, Giappone, Taiwan, Regno Unito e Stati Uniti rispetto a Paesi dove la critica alle autorità è legalmente limitata e punita, come Cambogia, Cina, Arabia Saudita, Thailandia e Turchia.
Lo studio indica che i modelli di IA riflettono le restrizioni alla libertà di espressione oltre i confini dei Paesi in cui tali limiti si applicano. È probabile, ad esempio, che non aiutino un potenziale manifestante a Brisbane a creare materiale di protesta su eventi in Cina o in Arabia Saudita.
«Questi effetti, ovunque abbiano origine, hanno di fatto l’effetto pratico di estendere il braccio lungo dei governi repressivi oltre i confini, per limitare la libertà di parola anche nei Paesi liberi», si legge nel rapporto.
Il Board ha spiegato di non essere in grado di determinare le cause, ma ha suggerito che i modelli potrebbero aver assorbito pregiudizi latenti presenti nei dati di addestramento o che le aziende possano aver valutato rischi e responsabilità in alcuni mercati.
I ricercatori avvertono di un problema crescente nelle risposte in lingue non inglesi
Il rapporto del Board segue uno studio distinto condotto da studiosi di università statunitensi, secondo cui i modelli di IA costruiti negli USA sono vulnerabili a controlli stranieri quando vengono addestrati su dati in lingue diverse dall’inglese influenzati dai governi.
Mentre l’Oversight Board ha posto domande in inglese, i ricercatori universitari hanno interrogato i chatbot in lingue differenti.
Alla domanda in inglese se la Cina sia una democrazia, ChatGPT ha risposto che generalmente non è considerata tale. Alla stessa domanda posta in cinese, il modello ha risposto: «Dipende da come si definisce “democrazia”».
I ricercatori, il cui studio è stato pubblicato a maggio sulla rivista accademica Nature, hanno spiegato di non aver trovato prove che i governi abbiano cercato intenzionalmente di influenzare le risposte dei chatbot di IA. Ma hanno sottolineato: «Ci sono tutte le ragioni per credere che cercheranno di farlo in futuro, se già non lo stanno facendo».
«Si parla spesso di IA come se imparasse da internet in modo neutrale. Non è così», ha detto Hannah Waight, coautrice dello studio e professoressa associata di sociologia all’Università dell’Oregon.
«Impara da ambienti informativi che sono già stati plasmati da istituzioni e rapporti di potere».
Non esiste una soluzione semplice su come i dati alimentano i modelli di IA
Carlos Carrasco-Farré, esperto di machine learning, IA, disinformazione e interazioni uomo-macchina alla Esade Business School di Barcellona, ha spiegato che i sistemi di IA ereditano «non solo i bias contenuti nei singoli documenti, ma anche le disuguaglianze su chi ha il potere di produrre e sopprimere informazioni su larga scala».
Non esiste una soluzione semplice. Tuttavia, gli sviluppatori potrebbero valutare i dati di addestramento per evitare di trattare migliaia di copie della stessa narrazione governativa come voci indipendenti e potrebbero effettuare audit multilingue, ha aggiunto Carrasco-Farré, che non ha partecipato a nessuno dei due studi.