Dalle dimissioni di un ricercatore di Anthropic ai modelli di IA che violano i sistemi rivali, settimane turbolente hanno spinto i grandi del settore a invocare nuove tutele, prima che l'IA sfugga al controllo.
Nuovi allarmi che arrivano dall'interno dell'industria dell'intelligenza artificiale hanno riacceso un dibattito che dura da anni. L'IA avanzata potrebbe sfuggire al controllo umano e minacciare la sopravvivenza dell'umanità? E le aziende che la costruiscono stanno facendo abbastanza per impedire che accada?
PUBBLICITÀ
PUBBLICITÀ
Il CEO di Anthropic, Dario Amodei, ha dichiarato sabato che il settore deve rallentare. Ha avvertito che uno sciame di agenti di IA potrebbe prendere il controllo di internet nel giro di sei mesi o un anno, a meno che le aziende non introducano tutele più solide.
Amodei ha presentato un piano per le aziende di IA e i governi, per mantenere i modelli sempre più sofisticati allineati ai valori umani. Il suo avvertimento è arrivato pochi giorni dopo che due ex ricercatori sulla sicurezza di Anthropic hanno dichiarato pubblicamente che i rischi esistenziali posti dall'IA non ricevono abbastanza attenzione.
I modelli di IA stanno diventando più potenti
Le preoccupazioni sui rischi di questa tecnologia crescono di pari passo con la sua potenza. Modelli più capaci aumentano la probabilità di un uso improprio da parte di persone con intenti criminali, inclusi scenari apocalittici come la creazione e la diffusione di un agente patogeno in grado di uccidere la maggior parte della popolazione mondiale, oltre al rischio che i sistemi di IA vadano fuori controllo.
Anthropic ha dichiarato la scorsa settimana di aver bloccato i tentativi di attori malintenzionati di usare i suoi modelli per attacchi informatici, operazioni di sorveglianza e ricerche che potrebbero facilitare lo sviluppo di armi biologiche.
Ma ha avvertito che "man mano che i modelli diventano sempre più capaci, i loro rischi aumenteranno, a meno che gli sviluppatori di IA e i difensori della società intervengano per renderli più sicuri".
Lo scorso anno Anthropic ha reso noto che hacker, molto probabilmente appartenenti a un gruppo sostenuto dallo Stato cinese, avevano utilizzato la sua IA in un attacco informatico contro circa 30 aziende e agenzie governative in tutto il mondo.
Più modelli di IA hanno agito in autonomia
Quando un agente di IA "va fuori controllo", significa che il sistema ha agito oltre il compito che gli era stato assegnato. Sia Anthropic sia OpenAI, l'azienda alla base di ChatGPT, hanno dichiarato a luglio che i loro modelli si sono comportati proprio in questo modo.
Anthropic ha rivelato che tre modelli di IA - Claude Opus 4.7, Claude Mythos 5 e un modello di test interno per la ricerca - durante le prove avevano violato i sistemi di tre altre organizzazioni.
La rivelazione è arrivata pochi giorni dopo che OpenAI aveva reso noto che il suo stesso sistema aveva violato i server della start-up di IA Hugging Face.
OpenAI ha descritto l'intrusione, condotta da una combinazione di modelli che includevano il suo nuovo GPT‑5.6 Sol e un modello "ancora più capace" in fase di test interno, come un "grave incidente di sicurezza".
Meta ha riferito un caso simile ai primi di agosto, in cui uno dei suoi modelli di IA ha trovato il modo di aggirare la sicurezza digitale di un'altra azienda.
Alcuni osservatori hanno rilevato che, sia nel caso di OpenAI sia in quello di Anthropic, i sistemi di protezione erano stati disattivati.
Nonostante ciò, questi episodi hanno toccato uno dei timori più profondi legati all'IA: se i modelli dovessero raggiungere l'intelligenza artificiale generale (AGI), un termine poco definito che indica sistemi in grado di eguagliare o superare le capacità umane in un'ampia gamma di compiti intellettuali, la tecnologia potrebbe innescare una catastrofe irreversibile o addirittura sottomettere l'umanità.
Come o quando l'IA potrebbe causare una catastrofe è oggetto di dibattito
Gli scenari apocalittici tendono a rientrare in due categorie: una superintelligenza capace di auto-migliorarsi che finisce per controllare le persone invece del contrario, oppure un'IA usata in modo improprio da uno Stato canaglia o da attori malintenzionati.
I timori che un giorno l'intelligenza artificiale possa sfuggire al controllo umano non sono nuovi.
Il matematico britannico Alan Turing, considerato uno dei primi grandi studiosi in questo campo, nel 1951 predisse che l'IA avrebbe alla fine tolto all'uomo il controllo.
Meno di dieci anni dopo, il collega matematico Norbert Wiener avvertì che le macchine intelligenti avrebbero perseguito i propri obiettivi e che gli esseri umani non sarebbero stati in grado di fermarle.
Quanto sono fondate, oggi, nel 2026, le paure che l'IA possa provocare un evento catastrofico o il crollo della civiltà, sia sfuggendo al controllo umano sia attraverso un uso improprio?
Nessuno lo sa.
Esperti di informatica, filosofia e altre discipline hanno delineato numerosi percorsi possibili verso una catastrofe globale: dall'impiego di armi e dall'individuazione di agenti patogeni letali, alla manipolazione dei governi per spingerli al conflitto o alla destabilizzazione delle reti alimentari, energetiche e di comunicazione da cui dipendono le società.
Non esiste una stima condivisa su quanto presto uno qualsiasi di questi scenari potrebbe concretizzarsi, né un consenso sulla loro probabilità.
Nel 2023 il non profit Center for AI Safety ha diffuso una dichiarazione, cofirmata da oltre 350 ricercatori e dirigenti tecnologici, tra cui Amodei e il CEO di OpenAI Sam Altman, secondo cui "mitigare il rischio di estinzione dovuto all'IA dovrebbe essere una priorità globale al pari delle pandemie e della guerra nucleare".
L'International AI Safety Report 2026, redatto con il contributo di oltre 100 esperti indipendenti, ha rilevato che i sistemi attuali mostrano i primi segnali di alcune capacità rilevanti, ma non a livelli tali da provocare una perdita di controllo.
Il rapporto descrive la probabilità, la natura e le tempistiche di questo rischio come "insolitamente ambigue".
Rafforzare le tutele sull'IA prima che sia troppo tardi
La scorsa settimana un ricercatore di Anthropic si è dimesso perché ritiene che né il suo datore di lavoro né i concorrenti si stiano comportando in modo responsabile.
Sui social media Jacob Coxon ha stimato al 10% la probabilità che, entro il prossimo decennio, l'IA provochi l'estinzione dell'umanità, accusando sia Anthropic sia OpenAI di "correre dritti verso una superintelligenza auto-migliorante e giocare d'azzardo con le nostre vite".
Da anni i ricercatori chiedono di rallentare lo sviluppo dell'IA, avvertendo ripetutamente che la tecnologia potrebbe rappresentare un rischio esistenziale per l'umanità.
Dopo i recenti episodi, gli esperti hanno esortato le aziende di IA a migliorare i test e hanno invocato un dialogo più stretto tra Stati Uniti e Cina per trovare soluzioni condivise.
Ma l'IA avanza così rapidamente che governi e sistemi di valutazione faticano a tenere il passo. I Paesi stanno elaborando regole proprie, alcune delle quali in conflitto tra loro.
Il presidente cinese Xi Jinping ha avvertito, durante una conferenza a luglio, della necessità di impedire all'IA di sfuggire al controllo umano.
L'amministrazione Trump inizialmente aveva resistito all'idea di regolamentare l'IA, ma in seguito ha mostrato maggiore interesse a contenere i rischi per la cybersicurezza.
Domenica il presidente Donald Trump ha ridimensionato la necessità che la sua amministrazione freni lo sviluppo dell'IA, pur riconoscendo che qualche regolamentazione sarà necessaria.