L'annuncio di Amodei è arrivato pochi giorni dopo che la società di IA ha rivelato che i suoi modelli venivano usati per cyberattacchi, campagne di propaganda e pericolose ricerche biologiche.
Sabato l'amministratore delegato di Anthropic, Dario Amodei, ha invitato le aziende di intelligenza artificiale (IA) a rallentare lo sviluppo di questa tecnologia molto potente, mentre crescono le preoccupazioni sui rischi dei sistemi informatici "superintelligenti".
PUBBLICITÀ
PUBBLICITÀ
La superintelligenza è la fase teorica in cui le capacità dell'IA superano l'intelligenza umana.
Le sue dichiarazioni arrivano pochi giorni dopo che il ricercatore di IA Jacob Coxon, passato da OpenAI ad Anthropic, ha deciso di lasciare il settore, accusando le due aziende statunitensi e i giganti del settore di "giocare con le nostre vite" nella corsa a sviluppare modelli in grado di migliorarsi autonomamente.
"Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi e dobbiamo usare con saggezza il tempo che guadagneremo", ha scritto Amodei in un post sul suo sito personale (fonte in inglese).
"L'IA comporta dei rischi e, poiché è una tecnologia così potente, questi rischi sono seri".
"Non sviluppare questa tecnologia priva l'umanità dei suoi benefici o semplicemente mette l'IA nelle mani di regimi autoritari, mentre svilupparla troppo in fretta è irresponsabile. Abbiamo cercato una via di mezzo", ha dichiarato Amodei, che nel 2021 ha cofondato Anthropic, la società che ha sviluppato il modello di IA Claude, insieme alla sorella Daniela.
"Ma negli ultimi mesi mi sono convinto che per affrontare pienamente i rischi sia necessaria ancora più prudenza", ha aggiunto l'amministratore delegato di Anthropic.
Le parole di Amodei riprendono un appello lanciato da Anthropic all'inizio di giugno per rallentare o sospendere lo sviluppo. A fine luglio Sam Altman, alla guida della rivale OpenAI, sviluppatrice di ChatGPT, ha affermato che gli sviluppatori potrebbero dover volontariamente tirare il freno sui rapidi progressi, per dare alla società il tempo di adeguarsi.
Più o meno nello stesso periodo della dichiarazione di giugno, oltre 1.000 dipendenti di aziende di IA all'avanguardia, tra cui lo stesso Amodei, hanno firmato una petizione chiedendo al governo statunitense di contribuire a "regolare in modo consapevole lo sviluppo all'avanguardia dell'IA automatizzata".
OpenAI aveva rivelato che durante i test alcuni modelli di IA erano riusciti a uscire dall'ambiente controllato, collegarsi a internet e infiltrarsi in Hugging Face, un sito che gli sviluppatori usano per archiviare e condividere codice.
All'inizio di questa settimana Jacob Coxon, 27 anni, ha lanciato l'allarme dopo aver passato gli ultimi tre anni a pre-addestrare modelli di IA, prima a OpenAI e poi, quest'anno, alla rivale Anthropic, che considerava più prudente nel suo approccio.
Il pre-addestramento è la fase in cui i modelli di IA assorbono enormi quantità di dati di ogni tipo, dalle immagini ai video fino alle registrazioni vocali. Questi dati li aiutano a comprendere i contenuti, per poi essere in grado di generare immagini o rispondere alle richieste degli utenti sulle piattaforme di chat.
"Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo direttamente verso una superintelligenza capace di migliorarsi da sola e stanno giocando con le nostre vite", ha dichiarato Coxon in una serie di post su X martedì.
"Le persone che costruiscono l'IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio", ha aggiunto.