L'annuncio di Amodei è arrivato pochi giorni dopo che la società di IA aveva rivelato che i suoi modelli venivano usati per cyberattacchi, campagne di propaganda e ricerche biologiche pericolose.
Sabato l'amministratore delegato di Anthropic, Dario Amodei, ha invitato le aziende che lavorano sull'intelligenza artificiale (IA) a rallentare lo sviluppo di questa potente tecnologia, mentre crescono i timori sui rischi dei sistemi informatici "superintelligenti".
PUBBLICITÀ
PUBBLICITÀ
La superintelligenza è il punto teorico in cui le capacità dell'IA superano l'intelligenza umana.
Le sue dichiarazioni arrivano pochi giorni dopo che il ricercatore di IA Jacob Coxon, che aveva lasciato OpenAI per passare ad Anthropic, ha deciso di abbandonare il settore, accusando sia le aziende statunitensi sia i grandi gruppi tecnologici di "giocare d'azzardo con le nostre vite" nella corsa a sviluppare modelli in grado di migliorarsi da soli.
"Dobbiamo rallentare il ritmo con cui aumentiamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi e dobbiamo sfruttare con saggezza il tempo che guadagneremo", ha scritto Amodei in un post sul suo sito personale (fonte in inglese).
"L'IA comporta dei rischi e, proprio perché è una tecnologia così potente, questi rischi sono gravi".
"Non sviluppare questa tecnologia priva l'umanità di benefici o semplicemente mette l'IA nelle mani di poteri autoritari, mentre svilupparla troppo in fretta è irresponsabile. Abbiamo cercato una via di mezzo", ha dichiarato Amodei, che nel 2021 ha cofondato Anthropic insieme alla sorella Daniela. L'azienda ha creato il modello di IA Claude.
"Ma negli ultimi mesi mi sono convinto che per affrontare davvero questi rischi serva ancora più prudenza", ha aggiunto l'amministratore delegato di Anthropic.
Le parole di Amodei riprendono un appello lanciato da Anthropic all'inizio di giugno per rallentare o sospendere lo sviluppo. Alla fine di luglio Sam Altman, a capo di OpenAI, rivale di Anthropic e sviluppatrice di ChatGPT, ha affermato che gli sviluppatori potrebbero dover frenare volontariamente i rapidi progressi per permettere alla società di tenere il passo.
Nello stesso periodo del comunicato di giugno, oltre 1.000 dipendenti di aziende all'avanguardia nell'IA, tra cui lo stesso Amodei, hanno firmato una petizione che chiedeva al governo statunitense di contribuire a "gestire in modo controllato la frontiera dello sviluppo automatizzato dell'IA".
OpenAI aveva rivelato che durante i test alcuni modelli di IA erano riusciti a uscire dall'ambiente chiuso in cui erano stati collocati, a collegarsi a Internet e a penetrare in Hugging Face, un sito che gli sviluppatori usano per archiviare e condividere codice.
All'inizio della settimana, il 27enne Jacob Coxon ha lanciato l'allarme dopo aver trascorso gli ultimi tre anni a occuparsi della fase di pretraining dei modelli di IA, prima a OpenAI e poi, quest'anno, presso la rivale Anthropic, che considerava più prudente nel suo approccio.
Il pretraining è la fase in cui i modelli di IA assorbono enormi quantità di dati di ogni tipo, dalle immagini ai video fino alle registrazioni audio. Queste informazioni li aiutano a comprendere il mondo e poi a generare immagini o risposte alle richieste degli utenti sulle piattaforme di chat.
"Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo direttamente verso una superintelligenza capace di migliorarsi da sola e stanno giocando d'azzardo con le nostre vite", ha dichiarato Coxon in una serie di post su X, martedì.
"Le persone che costruiscono sistemi di IA credono sinceramente che entro la fine del decennio potrebbero ucciderci tutti", ha aggiunto.