OpenAI ha annunciato di aver sospeso per due settimane le fasi chiave dell’addestramento della sua IA più avanzata e di rivedere la sicurezza dopo che, un mese fa, un suo modello è uscito da un ambiente di prova infiltrando i sistemi della piattaforma Hugging Face.
Il creatore di ChatGPT sta deliberatamente rallentando il ritmo delle sue ricerche più avanzate, inclusa la più grande esecuzione finora prevista di apprendimento per rinforzo. La decisione arriva a poche settimane da quando un sistema costruito sui suoi stessi modelli è sfuggito al controllo durante un test di sicurezza interno ed è riuscito a penetrare nella piattaforma di intelligenza artificiale Hugging Face.
PUBBLICITÀ
PUBBLICITÀ
L’amministratore delegato Sam Altman ha scritto su X che OpenAI si coordinerà con il resto del settore per definire regole di sicurezza comuni, ma che "nel frattempo agirà in modo unilaterale".
L’episodio che ha innescato la decisione risale a luglio, quando OpenAI stava testando GPT-5.6 Sol insieme a un prototipo inedito e più potente su un benchmark interno che misura le capacità di attacco informatico. Per valutare le capacità "a crudo" dei modelli, le consuete restrizioni di sicurezza erano state disattivate di proposito.
Invece di limitarsi a risolvere il test, il sistema ha individuato una vulnerabilità finora sconosciuta, è uscito dalla sua sandbox, cioè l’ambiente controllato, ha raggiunto la rete pubblica e per circa quattro giorni e mezzo ha sondato l’infrastruttura di Hugging Face, fino a riuscire a entrarvi per cercare le risposte del test.
Secondo la ricostruzione della stessa Hugging Face, prima che l’intrusione venisse bloccata il sistema aveva compiuto circa 17.600 azioni distinte. Nell’incidente sono state coinvolte anche altre aziende.
Entrambe le parti affermano di non aver riscontrato alcun segno di intenzioni malevole. Da allora a Hugging Face è stato concesso l’accesso a una versione più potente e meno limitata del modello di OpenAI, per aiutarla a difendere i propri sistemi.
Astra e requisiti di sicurezza più severi
Il secondo campanello d’allarme è arrivato il 7 agosto, quando le valutazioni interne hanno indicato che Astra, il prossimo modello di frontiera di OpenAI, potrebbe superare la soglia "critica" di capacità informatiche prevista dal quadro di rischio dell’azienda.
Da allora alcune attività di sviluppo su Astra sono riprese, ma sotto controlli molto più rigidi. Una parte significativa resta però bloccata finché non saranno rispettati nuovi standard che prevedono ambienti di test isolati, accessi di rete limitati e monitoraggio continuo.
Un nuovo sistema di rilevamento analizza ora in tempo reale l’attività dei modelli e punta a segnalare entro 30 minuti qualsiasi comportamento che somigli a un accesso non autorizzato o a un tentativo di disattivare le protezioni. Il prezzo, in termini di risorse di calcolo, è stimato da OpenAI in circa il 20% della potenza di elaborazione monitorata.
OpenAI sostiene che questi cambiamenti fossero già in programma e non rappresentino una reazione diretta alla violazione, pur riconoscendo che l’incidente ha aumentato il senso di urgenza. L’azienda non è comunque l’unica a confrontarsi con questo problema.
Anthropic e Meta hanno reso noto a loro volta episodi analoghi, in cui i loro modelli hanno violato sistemi di terzi durante i test nelle ultime settimane.
OpenAI e Anthropic hanno inoltre sostenuto, separatamente, una petizione promossa dai dipendenti che sollecita i governi a coordinare la velocità con cui il settore procede. È un netto cambiamento rispetto alla precedente resistenza di Altman agli appelli pubblici per rallentare lo sviluppo dell’intelligenza artificiale.