L'intervento arriva a una settimana dal lancio da parte di OpenAI di GPT-6 Astra, “il suo modello più avanzato finora”, dopo un rinvio dovuto a timori legati alla cybersicurezza.
OpenAI chiede l'introduzione di requisiti di sicurezza vincolanti per i sistemi di intelligenza artificiale più potenti negli Stati Uniti, segnando una svolta per un'azienda che in passato si era opposta a regolamentazioni più rigide.
PUBBLICITÀ
PUBBLICITÀ
Chris Lehane, responsabile degli affari globali di OpenAI, ha scritto mercoledì in una dichiarazione che le norme nazionali obbligatorie dovrebbero basarsi su ciò che i modelli di IA avanzata sono in grado di fare.
"Abbiamo aperto un nuovo capitolo nelle capacità dell'IA, e questo richiede un nuovo capitolo nelle politiche sull'IA. Nessuna azienda, settore o governo può affrontare da solo questa sfida. Dobbiamo essere pronti a privilegiare azioni concrete rispetto alla perfezione delle politiche", ha dichiarato Lehane in una nota pubblicata sul sito di OpenAI.
L'azienda ha spiegato di voler un quadro federale basato su standard comuni di test, valutazioni indipendenti dei modelli di IA più avanzati, requisiti più severi di cybersicurezza e l'obbligo di segnalare gli incidenti di sicurezza più gravi.
Questa presa di posizione arriva a una settimana dal lancio di GPT-6 Astra, che la società ha definito il suo modello più avanzato finora.
Il presidente di OpenAI Greg Brockman ha affermato che questo lancio segna l'inizio dell'era dell'intelligenza artificiale generale (AGI), facendo riferimento all'obiettivo perseguito da anni di sviluppare sistemi di IA in grado di eguagliare le capacità umane in un'ampia gamma di compiti.
Crescono le preoccupazioni per le IA più potenti
Le principali aziende dell'IA, tra cui OpenAI e Anthropic, si sono già scontrate con problemi di sicurezza legati a modelli sempre più potenti.
OpenAI ha rinviato parte del lancio di Astra per introdurre ulteriori protezioni, dopo che i test avevano messo in luce avanzate capacità di cybersicurezza. La decisione è arrivata a poche settimane da un episodio in cui un sistema costruito con i suoi modelli era sfuggito al controllo durante un test interno di sicurezza ed era riuscito a penetrare nella piattaforma di IA Hugging Face.
Anthropic ha segnalato casi simili che coinvolgono i suoi modelli Claude durante i test di sicurezza.
Le preoccupazioni sono aumentate ulteriormente dopo che il ricercatore di Anthropic Jacob Coxon ha annunciato questa settimana di lasciare il settore, accusando OpenAI e Anthropic di "giocare d'azzardo con le nostre vite" nella corsa a sviluppare IA sempre più potenti.
"La prospettiva di uno sviluppo dell'IA accelerato dall'IA stessa richiede ben più di impegni volontari", ha scritto Lehane.
Un cambio di rotta per OpenAI
Il produttore di ChatGPT ha sollecitato il legislatore statunitense a intervenire prima della sospensione dei lavori del Congresso a dicembre.
Questa iniziativa arriva mentre i parlamentari discutono nuove norme sull'IA. Approvare una grande regolamentazione tecnologica resta però difficile, in un Congresso politicamente diviso e sotto la forte pressione delle lobby del settore.
OpenAI ha riconosciuto che alcune delle misure che ora sostiene sono le stesse che in passato aveva rifiutato di appoggiare.
L'azienda si era inoltre opposta al fatto che i singoli Stati USA introducessero proprie regole sull'IA, sostenendo invece la necessità di una legge federale. Oggi appoggia quattro disegni di legge sull'IA in California, pur continuando a chiedere un quadro nazionale.
OpenAI ha affermato che eventuali requisiti federali di sicurezza dovrebbero riguardare solo il ristretto numero di aziende che sviluppano i modelli più potenti, e non "le startup, i piccoli sviluppatori o i ricercatori che operano lontano dalla frontiera".