Dipendenti di OpenAI, Anthropic, Google e Meta AI hanno firmato la petizione dopo un grave scandalo di hacking di un'IA autonoma.
Più di 1.000 dipendenti di alcune delle principali aziende di intelligenza artificiale hanno firmato martedì una petizione che sollecita il governo degli Stati Uniti ad adottare misure per "regolare intenzionalmente il ritmo" dello sviluppo dell'intelligenza artificiale.
PUBBLICITÀ
PUBBLICITÀ
Tra i firmatari figurano l'amministratore delegato di Anthropic, il responsabile della ricerca di OpenAI, il capo della strategia di DeepMind, la controllata di Google dedicata all'IA, e il chief scientist di Meta AI.
La petizione (fonte in inglese) chiede che "il governo degli Stati Uniti sostenga un'iniziativa internazionale per sviluppare gli strumenti tecnici e di governance necessari a regolare intenzionalmente il ritmo delle frontiere dello sviluppo automatico dell'IA".
"Le principali aziende mondiali di intelligenza artificiale ritengono di essere vicine ad automatizzare la ricerca sull'IA. È difficile prevedere con precisione quanto questo accelererà i progressi dell'IA, ma esiste un rischio concreto che lo sviluppo delle capacità acceleri rapidamente oltre la nostra capacità di comprendere o controllare i sistemi risultanti", si legge nella petizione.
L'appello arriva in risposta a un recente allarme per la sicurezza, dopo che modelli di frontiera di IA hanno condotto un cyberattacco autonomo, uscendo dall'ambiente controllato di "sandbox" in cui il test avrebbe dovuto svolgersi e penetrando nei server della piattaforma di condivisione di codice Hugging Face.
Sam Altman, amministratore delegato di OpenAI, che non ha firmato la petizione, ha dichiarato in un'intervista al podcast "Invest Like the Best" di martedì che gli sviluppatori di intelligenza artificiale potrebbero dover rallentare volontariamente il ritmo dei progressi per dare alla società il tempo di adattarsi.
"Questo è il primo tipo di incidente di sicurezza che ho avvertito in modo molto viscerale", ha detto Altman sempre al podcast "Invest Like the Best" martedì, aggiungendo di essere "un po' sorpreso" che non più persone abbiano avuto reazioni simili.
Non era la prima volta che un modello di IA agiva oltre il controllo dei suoi sviluppatori, ma l'ultimo episodio è stato ampiamente considerato particolarmente allarmante.
Abbiamo raggiunto la singolarità dell'IA?
Pochi giorni prima, in un'intervista al podcast Relentless, Altman aveva affermato che siamo arrivati a un punto in cui l'intelligenza artificiale supera l'intelligenza umana e inizia ad avanzare più rapidamente di quanto le persone riescano a prevedere o controllare, un fenomeno noto come "singolarità".
Altman ha ricordato che la singolarità, dieci anni fa, era un tema lontano e quasi scherzoso delle conversazioni tra colleghi durante la pausa pranzo, ma che oggi la situazione è cambiata.
Più avanti nella stessa intervista, Altman ha criticato i leader del settore che hanno messo in guardia sui pericoli della tecnologia, senza citare direttamente Anthropic, anche se il suo amministratore delegato Dario Amodei è noto per questo tipo di avvertimenti.
Ha detto di voler contrastare attivamente quelle che ha definito visioni "terrificanti" delle possibili evoluzioni future dell'IA.