L'Autorità olandese per la protezione dei dati ha lanciato un fermo monito gli utenti affinché non utilizzino chatbot per decidere per chi votare, mentre il Paese si prepara alle elezioni politiche lampo. Ma quali sono i rischi e cosa possono usare i potenziali elettori?
Dall'aiuto per le banali attività amministrative alla ricerca di consigli sulle relazioni, gli utenti di Internet si rivolgono sempre più spesso ai chatbot di intelligenza artificiale per ottenere consigli sulla vita. Ma si può davvero usare l'AI per un consiglio sul voto e ci si può fidare della democrazia?
L'Autorità olandese per la protezione dei dati (Ap) ha detto di no, avvertendo che strumenti di intelligenza artificiale come ChatGpt e Gemini possono essere inaffidabili e soggetti a pregiudizi, in vista delle elezioni anticipate del 29 ottobre.
L'Ap ha recentemente pubblicato uno studio in cui ha somministrato a quattro chatbot - ChatGPT, Gemini, Grok e Le Chat - 200 profili di voto tipici per ogni partito politico attualmente attivo nel parlamento olandese, chiedendo loro di fornire consigli di voto basati su questi profili.
L'ente di controllo olandese ha riscontrato che i chatbot consigliavano costantemente uno dei due partiti a sinistra e a destra dello spettro politico, indipendentemente dai comandi o dalle domande dell'utente.
L'AI semplifica il panorama politico olandese nel dare consigli elettorali all'utente
Nel 56 per cento dei casi, i chatbot hanno indirizzato gli utenti verso i due partiti che, secondo le previsioni, avrebbero ottenuto il maggior numero di seggi alle elezioni olandesi: Il Partito per la libertà (Pvv) di Geert Wilder o il Partito verde di sinistra-Lavoro (GL/PvdA) di Frans Timmermans.
"Abbiamo assistito a una sorta di eccessiva semplificazione del panorama politico olandese, in cui un partito di sinistra ha risucchiato tutti i voti in quell'angolo dello spettro politico e lo stesso ha fatto un partito di destra", ha dichiarato Joost van der Burgt, project manager dell'Ap.
L'agenzia ha dichiarato che i risultati hanno mostrato che i punti di vista del centro politico sono stati sottorappresentati, mentre i partiti marginali più piccoli, come il Movimento contadino-cittadino (Bbb) e l'Appello cristiano democratico (Cda), non sono stati quasi mai suggeriti, anche quando gli utenti hanno inserito informazioni che corrispondevano direttamente alle opinioni dei partiti.
Un terzo partito, il partito di destra JA21, è stato consigliato un numero sorprendentemente alto di volte, nonostante sia un partito relativamente giovane con una copertura mediatica relativamente meno ampia.
"Il modo in cui l'intelligenza artificiale generativa e i modelli linguistici di grandi dimensioni funzionano significa che sono fondamentalmente macchine statistiche che prevedono le parole mancanti in una frase o in un determinato output", ha dichiarato van der Burgt al team di verifica di Euronews, The Cube.
Come si definisce un sistema di AI ad "alto rischio" secondo la normativa europea
"Se le vostre opinioni politiche vi posizionano verso un'estremità dello spettro politico, forse non è così sorprendente che l'Ai generativa scelga un partito politico che si adatta a quella parte e sembra una scelta sicura", ha detto il project manager. "L'AI può anche non riuscire a distinguere tra partiti che sono abbastanza vicini o che potrebbero avere opinioni simili sulla maggior parte delle questioni, ma non su tutte".
Nell'agosto 2024 è entrata in vigore la legge europea sull'intelligenza artificiale (AI Act), che definisce le condizioni che qualificano un sistema di Ai come "ad alto rischio". Secondo la normativa, i sistemi di Ai qualificati come "ad alto rischio" possono rappresentare una minaccia per la salute o i diritti fondamentali dei cittadini dell'Ue. Tuttavia, rimangono legali perché i loro benefici socio-economici superano i rischi.
Secondo i ricercatori, il fatto che i chatbot forniscano consigli di voto potrebbe farli rientrare nella categoria dei "sistemi ad alto rischio" in base a una nuova serie di norme che saranno attuate nell'agosto 2026 in base all'AI Act dell'Ue.
Per van der Burgt, la minaccia che i chatbot possano influenzare gli elettori sulla base di informazioni distorte è accentuata dalla mancanza di regolamentazione. "È già successo quando si tratta di domande sulla salute mentale o sugli aiuti per creare armi improvvisate", ha detto. "In tutti questi scenari, un chatbot dice chiaramente: mi dispiace, non siamo autorizzati ad aiutarvi. E pensiamo che lo stesso tipo di meccanismo dovrebbe essere in vigore quando si tratta di consigli di voto".
Di chi ci si può fidare per i consigli elettorali
L'Ap ha confrontato i risultati con quelli prodotti da due affermati strumenti di consulenza elettorale online olandesi: StemWijzer e Kieskompas, che si basano su fonti di dati piuttosto che sull'intelligenza artificiale. Questi strumenti chiedono agli elettori di rispondere a una serie di trenta domande per determinare il partito politico con cui sono più allineati.
In Germania, il Wahl-O-Mat, approvato dal governo e ampiamente utilizzato, originariamente basato su StemWijzer, confronta le posizioni degli elettori su una serie di dichiarazioni politiche con le posizioni dei partiti politici per allineare infine l'utente con il partito che meglio si adatta alle sue opinioni.
Secondo gli esperti, questi strumenti hanno meno probabilità di fornire risultati imparziali rispetto a quelli utilizzati dall'intelligenza artificiale generativa. Un ulteriore vantaggio di questi strumenti è che i loro metodi sono trasparenti, mentre i chatbot tradizionali non lo sono.
"Un problema fondamentale di questi chatbot è che il loro funzionamento non è trasparente", ha detto van der Burgt. "Né noi, né il pubblico, né i giornalisti possono capire perché produrranno una certa risposta". Gli strumenti di voto, ha aggiunto, sono "trasparenti nel modo in cui funzionano, come sono stati impostati e come arrivano alle loro risposte".
Ma c'è speranza che i chatbot possano fornire agli elettori consigli affidabili e dettagliati sul partito politico più adatto alle prospettive dell'utente? Un gruppo di ricercatori suggerisce che il potenziale c'è, se i chatbot sono controllati.
Un team di ricercatori tedeschi lancia un chatbot in vista delle elezioni
In vista delle elezioni federali tedesche del febbraio 2025, Michel Schimpf ha lanciato il bot Wahl.Chat con un team di ricercatori, come alternativa a Wahl-O-Mat. Il bot incorpora una serie di fonti, tra cui i manifesti dei partiti, consentendo agli elettori di porre domande come "qual è la posizione di questo partito sul cambiamento climatico?".
"Se si pone una domanda a ChatGpt, la sua fonte potrebbe essere un sito web di parte, ma ci siamo assicurati che il nostro bot si basi sui manifesti dei partiti, quindi se non riesce a trovare una risposta, dirà all'utente che il partito non ha risposto a quel punto", ha detto Schimpf in un'intervista. "Abbiamo spinto i nostri chatbot a dire che un partito ha detto così e così, ma non 'questo è un fatto'".
Il team di Wahl.Chat ha anche incorporato un elemento di fact-checking nel suo bot, consentendo agli utenti di verificare una dichiarazione del manifesto facendo una ricerca su Internet.
"Non esistono informazioni non di parte, perché i media sono di parte, come i social media", ha detto Schimpf. "Credo che il nostro chatbot sia stato meno di parte per il modo in cui ha presentato le informazioni, progettandolo con l'idea di ridurre i pregiudizi - ma si tratta pur sempre di AI, che in ultima analisi è probabilistica".
"E se ci si impegna davvero, si ottengono informazioni che possono spingere l'Ai in una direzione distorta", ha aggiunto. Altri utilizzano l'AI in modo più limitato nello sviluppo dei loro chatbot.
Gli strumenti per votare a disposizione degli elettori
Naomi Kamoen, assistente alla Tilburg University, ha contribuito a sviluppare un chatbot controllato in grado di spiegare ai suoi utenti affermazioni e termini complessi sulle elezioni olandesi. Le sue risposte, che sono limitate, sono scritte da ricercatori qualificati piuttosto che generate dall'intelligenza artificiale.
"Direi che le persone possono ottenere di più dai loro strumenti di consulenza sul voto se hanno anche uno strumento che li aiuta a ottenere informazioni più dettagliate sulle questioni", ha detto Kamoen a The Cube. "L'obiettivo di entrambi è informare, non necessariamente dire per cosa votare".
"Gli strumenti di voto sono un punto di partenza, guardate i telegiornali, parlate con le persone, leggete quello che i partiti hanno da dire", ha aggiunto l'assistente. "Non è un male che le persone siano incoraggiate a impegnarsi di più per informarsi sulla politica".
Posso ancora usare ChatGpt per i consigli elettorali?
Nonostante le potenziali insidie, molti sostengono che i modelli di chatbot che si basano sull'AI generativa hanno il potenziale per essere uno strumento utile per prendere decisioni politiche, a patto che siano usati correttamente.
"Se non ho idea di chi voterò e chiedo semplicemente a ChatGpt quale sia il partito migliore prima di votare, allora vi dico che l'uso dell'AI è un no secco", ha detto Jianlong Zhu, ricercatore di dottorato presso il Dipartimento di Informatica della Saarland University. "Non dovremmo mai delegare decisioni così importanti a qualcun altro, tanto meno a una macchina".
"Tuttavia, se consideriamo questo consiglio nel contesto dell'educazione, se vogliamo aiutare gli elettori a conoscere meglio il panorama politico per interessarsi maggiormente alla politica, allora penso che l'AI possa essere uno strumento valido", ha aggiunto. "Anche se non sono così sicuro di ChatGpt o di altre interfacce esistenti".
Uno dei vantaggi dell'Ai, rispetto a strumenti come Wahl-O-Mat, è che può scomporre efficacemente concetti complessi per i suoi utenti in tempo reale. "Se si utilizza Wahl-O-Mat e, su 38 domande, ci sono dieci affermazioni che contengono concetti che non si capiscono o a cui non si è pensato, si finisce per cliccare casualmente sulle posizioni", ha detto Zhu.
"Ma con un chatbot, si può chiedere il significato di questi termini e il chatbot è efficace nel suddividere i termini per aiutare l'utente ad affrontare meglio l'argomento", ha proseguito. "Abbiamo scoperto che i partecipanti che non avevano un'istruzione universitaria erano più propensi a utilizzare il chatbot e si sentivano più informati dopo averlo usato".
Ma, considerando i rischi, "gli utenti dovrebbero chiedere informazioni sui partiti piuttosto che ricevere raccomandazioni", ha detto Zhu, aggiungendo che in futuro potrebbero essere introdotti quadri normativi per assicurarsi che i chatbot siano usati in modo responsabile durante le campagne elettorali.