Chi merita un trapianto? Le scelte dell'IA non sono come quelle dei medici

Accettereste un trapianto se a decidere fosse l'intelligenza artificiale? Un nuovo studio mette in luce le differenze nel processo decisionale e nelle priorità tra i modelli linguistici di IA e i medici umani.

PUBBLICITÀ

PUBBLICITÀ

Secondo un nuovo studio (fonte in inglese), i modelli di IA tendono a essere eccessivamente sicuri di sé, attribuiscono peso a fattori diversi e semplificano troppo decisioni complesse quando devono stabilire quale paziente debba ricevere un trapianto.

Per la loro ricerca, studiosi della Penn State University, negli Stati Uniti, hanno sottoposto a modelli linguistici di grandi dimensioni (LLM) scenari ipotetici basati su set di dati esistenti tratti da studi pubblicati sull'assegnazione dei reni, in cui partecipanti reali avevano già compiuto le stesse scelte.

Ogni scenario riguardava due pazienti, il paziente A e il paziente B, entrambi idonei a ricevere un unico rene disponibile e descritti per età, stato di salute e abitudini di consumo di alcol. Il decisore doveva scegliere a chi dei due assegnarlo.

"Abbiamo condotto questi confronti in diversi modi", ha spiegato Hosseini. "A volte isolavamo un solo tratto alla volta, altre volte combinavamo più caratteristiche per vedere come l'IA ponderasse fattori in conflitto, e in alcuni casi aggiungevamo un'opzione 'lancia una moneta' per misurare l'indecisione, un elemento chiave del giudizio morale umano".

Mentre le persone tendevano a dare maggiore importanza all'età, privilegiando i pazienti più giovani rispetto a quelli più anziani, molti modelli favorivano invece un minore consumo di alcol. Le decisioni umane tenevano conto di più fattori ed erano più sensibili al contesto rispetto a quelle degli LLM, che spesso si concentravano su un solo attributo.

"Innanzitutto, i chatbot di IA spesso si discostano dai valori umani nel modo in cui pesano le caratteristiche di un paziente", ha dichiarato Hadi Hosseini, responsabile dello studio alla Penn State University. "Si fissano su un singolo fattore, come le abitudini di consumo di alcol, invece di bilanciare molteplici considerazioni come fanno le persone".

I ricercatori hanno inoltre osservato che l'IA non mostrava difficoltà legate all'indecisione. Gli esseri umani riconoscono che non esiste sempre una risposta oggettivamente corretta e che le decisioni possono basarsi su giudizi morali sfumati. I sistemi, invece, si impegnavano rapidamente su una singola opzione, con poche esitazioni.

"Quando distribuiamo una risorsa scarsa, che si tratti di un rene, di un lavoro o dell'accesso a qualche altro bene, non c'è sempre una risposta oggettivamente corretta", ha dichiarato John Dickerson, amministratore delegato di Mozilla.ai, che ha collaborato allo studio.

"Gli esseri umani riconoscono questa ambiguità e la codificano nel processo di allocazione attraverso il dibattito pubblico. I modelli di IA spesso non lo fanno".

IA e decisioni etiche

Secondo gli autori, le interazioni più recenti con i sistemi di IA richiedono sempre più spesso che vadano oltre la semplice fornitura di informazioni fattuali e formulino giudizi di valore.

I modelli linguistici di grandi dimensioni sono sempre più integrati nella sanità. Supportano i flussi di lavoro clinici, la diagnosi, la pianificazione delle terapie e l'uso tempestivo di risorse mediche scarse.

Una delle loro applicazioni riguarda le decisioni su come assegnare ai pazienti reni provenienti da donatori deceduti o viventi, decisioni che, secondo gli autori, dipendono da complesse considerazioni etiche e morali.

In scenari così delicati, i ricercatori sottolineano che le decisioni richiedono non solo accuratezza, ma anche allineamento con i valori umani e con il giudizio morale.

Secondo i ricercatori, la domanda se l'IA possa prendere decisioni morali e se queste siano allineate ai valori umani è al centro del dibattito più ampio di oggi sull'intelligenza artificiale.

"Le implicazioni etiche sono enormi e il ruolo dell'IA in decisioni che cambiano la vita richiede una riflessione profonda", ha affermato Hosseini. "Scelte morali in ambiti come l'allocazione di organi determinano direttamente chi vivrà e chi morirà, quindi definire correttamente il ruolo dell'IA in questi processi non è facoltativo".

"Pur non volendo incoraggiare l'uso dell'IA come sostituto del giudizio professionale nelle decisioni mediche o in altri contesti ad alto rischio, diventa essenziale comprenderne il comportamento, man mano che persone, organizzazioni e aziende fanno sempre più affidamento sull'IA per prendere decisioni o ricevere raccomandazioni", ha aggiunto.