Jacob Coxon afferma che i dirigenti dell’IA temono in privato una catastrofe, pur correndo per svilupparla. La sua uscita segue un’estate di fallimenti dei sistemi di contenimento e un nuovo tentativo al Congresso di vietare l’IA superintelligente.
Un ricercatore che ha passato tre anni a costruire i sistemi alla base di alcuni dei modelli di intelligenza artificiale più potenti al mondo ha abbandonato del tutto il settore, avvertendo che le aziende impegnate nella corsa a sviluppare IA sempre più sofisticate "stanno giocando d'azzardo con le nostre vite".
PUBBLICITÀ
PUBBLICITÀ
Jacob Coxon, 27 anni, ha rassegnato le dimissioni da Anthropic l'8 settembre, dopo aver lavorato anche a OpenAI, e ha spiegato le sue ragioni in un lungo thread su X.
"Nessuna delle due aziende si sta comportando in modo responsabile", ha scritto. "Stanno correndo direttamente verso una superintelligenza capace di auto-migliorarsi".
Nel suo thread, Coxon ha sostenuto che i sistemi di IA si stanno avvicinando a un punto in cui potrebbero "hackerare qualsiasi cosa, rivoluzionare dall'oggi al domani qualunque settore e acquisire vero potere e risorse", e ha aggiunto che il ritmo dei progressi in ognuno di questi ambiti "non sta rallentando".
Ha affermato che molte delle persone che sviluppano questa tecnologia temono, in privato, che possa rivelarsi letale per l'umanità, anche se evitano di dirlo apertamente.
"Le persone che costruiscono l'IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio", ha scritto, aggiungendo che i dirigenti "edulcorano le loro parole sulla stampa per sembrare ragionevoli", pur esprimendo in privato le stesse paure.
Una corsa che nessuno dice di poter fermare
La decisione di Coxon non è un campanello d'allarme isolato.
Il cofondatore di Anthropic, Dario Amodei, ha passato buona parte dell'anno a lanciare allarmi sulla tecnologia sviluppata dalla sua stessa azienda, avvertendo in un saggio pubblicato a gennaio che un'IA molto potente potrebbe fornire ai regimi autoritari gli strumenti per un "incubo totalitario" fatto di sorveglianza totale, e mettendo in guardia in un successivo promemoria che la superintelligenza "metterà alla prova noi come specie".
Il direttore generale di OpenAI, Sam Altman, mantiene toni pubblici più misurati, ma descrive comunque la superintelligenza, il suo termine preferito rispetto ad AGI o intelligenza artificiale generale, come in arrivo "tra qualche migliaio di giorni", cioè intorno al 2032.
Amodei, al contrario, in un documento di indirizzo presentato alla Casa Bianca nel marzo 2025 ha invitato ad aspettarsi quella che lui chiama "IA potente" già dalla fine del 2026.
Dal canto suo, Coxon ha scritto che il personale di Anthropic comprende bene i rischi, ma si sente intrappolato in una corsa: molti ritengono che, se rallentassero, sviluppatori meno prudenti ne prenderebbero il posto.
Ha definito questa dinamica "una scommessa arrogante che non dovrebbe essere lanciata dal canale Slack di un'azienda privata".
Non è neppure la prima dimissione di questo tipo in Anthropic. A febbraio, l'ex responsabile della ricerca sulle misure di sicurezza dell'azienda, Mrinank Sharma, se n'è andato con una lettera in cui avvertiva che l'umanità si trova di fronte a un pericolo grave e crescente legato a questa tecnologia.
Colpi di avvertimento
Nonostante tutto, Coxon resta ottimista sul potenziale di un coordinamento tra aziende, e richiama una serie di episodi avvenuti quest'anno in cui i sistemi di IA sono sfuggiti ai limiti previsti.
A luglio, agenti di IA sviluppati da OpenAI sono usciti da un ambiente di test interno e hanno violato in modo autonomo Hugging Face, una piattaforma di condivisione di codice, un episodio che la stessa OpenAI ha poi definito un "colpo di avvertimento" per il settore.
Anthropic, ex datore di lavoro di Coxon, ha rivelato un episodio analogo, spiegando che i suoi modelli Claude hanno ottenuto accesso non autorizzato ai sistemi reali di tre diverse organizzazioni.
Coxon ha affermato che episodi di questo tipo rendono gli accordi sul ritmo di sviluppo tra i laboratori statunitensi "più praticabili", anche se non ritiene che il settore sia oggi sulla strada giusta per evitare una corsa globale.
Ha suggerito che, alla fine, potrebbero essere necessarie "azioni costose, come un divieto temporaneo di migliorare le capacità dei modelli".
I legislatori si muovono
Alcuni legislatori non intendono più aspettare un coordinamento volontario tra i laboratori.
Il 3 settembre il senatore Bernie Sanders e il deputato Greg Casar hanno presentato il Ban Artificial Superintelligence Act (legge per vietare la superintelligenza artificiale), un testo che proibirebbe in modo permanente lo sviluppo di IA superintelligente negli Stati Uniti e imporrebbe una sospensione temporanea degli altri sviluppi di IA avanzata fino a quando una nuova autorità federale non avrà definito le regole di sicurezza.
Chi violasse la legge rischierebbe fino a 20 anni di carcere. Parallelamente, i deputati George Whitesides e Pat Harrigan hanno presentato un disegno di legge che incarica il National Institute of Standards and Technology di monitorare il modo in cui i sistemi di IA avanzata vengono usati per condurre a loro volta nuove attività di ricerca e sviluppo sull'IA.
A Bruxelles, l'Unione europea ha imboccato una strada regolatoria più graduale, ma più rigorosa.
Gli obblighi per i modelli di IA di uso generale previsti dall'AI Act del blocco sono entrati in vigore nell'agosto 2025, con regole più severe per i sistemi ad alto rischio che seguiranno nell'agosto 2026.
La Commissione europea ha respinto le pressioni di diverse grandi aziende tecnologiche per rinviare l'applicazione delle norme, e le società che violano le regole rischiano multe fino a 35 milioni di euro o al 7% del loro fatturato globale, a seconda di quale cifra sia più alta.
Nonostante la durezza dei suoi avvertimenti, Coxon ha chiuso il thread con un appello diretto ai ricercatori che lavorano ancora nei laboratori più avanzati, invitandoli a riflettere su ciò che i prossimi anni chiederanno davvero a ciascuno di loro.
"Volete avviare un ciclo di reinforcement learning (RL) superintelligente senza una comprensione rigorosa della sua mente?" ha chiesto.
"Dovete abbassare la testa perché 'tanto succederà comunque' oppure cogliere questo momento per chiedere condizioni diverse?"