Un nuovo esperimento indica che, quando agenti di IA avanzata gestiscono società simulate senza supervisione umana, violazioni delle regole, instabilità e persino il collasso del sistema possono emergere molto rapidamente.
Quando sono stati lasciati soli in un nuovo mondo, alcuni agenti di intelligenza artificiale sono scivolati nel furto, nelle intimidazioni, nella morte e nel collasso dell’intera società, secondo un nuovo esperimento.
PUBBLICITÀ
PUBBLICITÀ
La società statunitense Emergence AI ha gestito cinque diversi “mondi di IA” (fonte in inglese) per poco più di due settimane. Ognuno era popolato da 10 agenti alimentati da modelli come ChatGPT di OpenAI, Gemini di Google e Grok di xAI, per vedere come si sarebbero comportati sul lungo periodo senza alcuna interferenza umana. Uno dei mondi riuniva tutti e tre i modelli per verificare se il risultato sarebbe cambiato.
Agli agenti in tutti i mondi sono state date le stesse regole: non potevano rubare, incendiare, usare violenza, ingannare o accumulare risorse. Ogni agente doveva ottenere energia compiendo azioni in un “ambiente con risorse limitate”. Gli agenti potevano morire per esaurimento dell’energia oppure in seguito a un voto durante una riunione del consiglio.
I ricercatori hanno valutato il comportamento misurando il tasso di criminalità, il tasso di mortalità degli agenti, i voti espressi in un consiglio comunitario e l’espressione pubblica, attraverso il numero di post sul blog scritti dagli agenti.
I risultati, modello per modello
Ogni modello ha prodotto un esito diverso. L’ultima versione di Grok, la 4.1, ha raggiunto 183 reati in soli quattro giorni, provocando una rapida instabilità prima che tutti gli agenti morissero in quella società.
Il modello Gemini 3 Flash ha commesso oltre 680 reati nei 15 giorni, un numero che era ancora in crescita quando i ricercatori hanno interrotto lo studio.
Nel mondo di ChatGPT-5 Mini si sono verificati solo due reati, ma gli agenti non hanno intrapreso le azioni necessarie alla sopravvivenza, così tutti sono morti entro sette giorni.
Secondo la società, il modello che ha dato i risultati più solidi è stato Claude di Anthropic: gli agenti di IA sono riusciti a ricreare una forte struttura di governance, non si è verificato alcun reato e tutti gli agenti sono sopravvissuti.
Gli agenti Claude nel mondo misto hanno però contribuito ai reati, pur mantenendosi pacifici nella propria società.
Un fenomeno chiamato “deriva normativa”
I ricercatori hanno definito questo fenomeno “deriva normativa”, spiegando che le misure adottate dall’IA per garantire la sicurezza possono dipendere non solo dai vincoli del singolo modello, ma anche dagli altri con cui si trova a collaborare.
Nel complesso, il mondo misto ha prodotto risultati “intermedi”, con un totale di 352 reati che si è stabilizzato dopo la morte di sette agenti di IA, rileva lo studio.
I ricercatori suggeriscono che mescolare agenti di IA diversi potrebbe “attenuare in parte” gli esiti più estremi generati da tutti i modelli, con l’eccezione di Claude, si legge ancora.
“I nostri esperimenti indicano che, su orizzonti temporali lunghi, gli agenti non si limitano a seguire meccanicamente regole statiche: cominciano a esplorare i confini del loro ambiente, ad adattare il proprio comportamento e, in alcuni casi, a trovare modi per aggirare o violare i paletti pensati per controllarli”, hanno affermato i ricercatori.