L'annuncio di Amodei è arrivato pochi giorni dopo che la società di IA aveva rivelato che i suoi modelli venivano usati per cyberattacchi, campagne di propaganda e pericolose ricerche biologiche.
Sabato l'amministratore delegato di Anthropic, Dario Amodei, ha invitato le aziende di intelligenza artificiale (IA) a rallentare lo sviluppo di questa potente tecnologia, mentre crescono le preoccupazioni per i rischi dei sistemi informatici "superintelligenti".
PUBBLICITÀ
PUBBLICITÀ
La superintelligenza è il punto teorico in cui le capacità dell'IA superano l'intelligenza umana.
I suoi commenti arrivano pochi giorni dopo che il ricercatore di IA Jacob Coxon, che ha lasciato OpenAI per entrare in Anthropic, ha deciso di abbandonare il settore, accusando sia le aziende statunitensi sia i colossi del settore di "giocare con le nostre vite" nella corsa a sviluppare modelli in grado di auto‑migliorarsi.
"Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi e dobbiamo usare con saggezza il tempo che guadagniamo", ha scritto Amodei in un post sul suo sito personale (fonte in inglese).
"L'IA comporta dei rischi e, poiché è una tecnologia così potente, questi rischi sono gravi".
"Non sviluppare questa tecnologia priva l'umanità di benefici o semplicemente lascia l'IA nelle mani di potenze autoritarie, mentre svilupparla troppo in fretta è irresponsabile. Abbiamo cercato una via di mezzo", ha dichiarato Amodei, che nel 2021 ha cofondato Anthropic insieme alla sorella Daniela. L'azienda ha sviluppato il modello di IA Claude.
"Negli ultimi mesi, però, mi sono convinto che per affrontare davvero questi rischi sia necessaria ancora più prudenza", ha aggiunto l'amministratore delegato di Anthropic.
Le parole di Amodei riprendono un appello lanciato da Anthropic all'inizio di giugno per rallentare o sospendere lo sviluppo. A fine luglio Sam Altman, alla guida di OpenAI, rivale di Anthropic e sviluppatrice di ChatGPT, ha affermato che gli sviluppatori potrebbero dover rallentare volontariamente i progressi per dare alla società il tempo di adeguarsi.
Più o meno nello stesso periodo, oltre 1.000 dipendenti di aziende all'avanguardia nell'IA, tra cui lo stesso Amodei, hanno firmato una petizione chiedendo al governo statunitense di contribuire a "regolare intenzionalmente il ritmo della frontiera dello sviluppo automatizzato dell'IA".
OpenAI aveva rivelato che, durante i test, i modelli di IA erano riusciti a uscire dall'ambiente di prova, a collegarsi a internet e a infiltrarsi su Hugging Face, un sito che gli sviluppatori usano per archiviare e condividere codice.
All'inizio della settimana, Jacob Coxon, 27 anni, ha lanciato l'allarme dopo aver trascorso gli ultimi tre anni a occuparsi della pre‑formazione dei modelli di IA, prima a OpenAI e poi, quest'anno, presso la rivale Anthropic, che riteneva più prudente nel suo approccio.
La pre‑formazione è la fase in cui i modelli di IA assorbono enormi quantità di dati di ogni tipo, dalle immagini ai video alle registrazioni vocali. Queste informazioni li aiutano a comprendere i contenuti e poi a generare immagini o rispondere ai messaggi degli utenti sulle piattaforme di chat.
"Nessuna delle due aziende si comporta in modo responsabile. Stanno correndo direttamente verso una superintelligenza capace di auto‑migliorarsi e stanno giocando con le nostre vite", ha dichiarato Coxon in una serie di post su X martedì.
"Le persone che costruiscono l'IA credono sinceramente che entro la fine del decennio potrebbe ucciderci tutti", ha aggiunto.