Meta ha sottolineato che l’incidente non è dipeso da un vero attacco informatico, ma da un errore di configurazione nell’ambiente di test. Come è successo dopo i casi di Anthropic e OpenAI, si riaccende il dibattito sulla necessità di aggiornare i sistemi di sicurezza
Meta ha reso noto che, durante test di cybersicurezza, uno dei suoi modelli di intelligenza artificiale (IA) ha avuto accesso ai sistemi di un'altra azienda.
PUBBLICITÀ
PUBBLICITÀ
L'episodio, che arriva dopo casi analoghi registrati di recente da Anthropic e OpenAI, ha riacceso il dibattito sulla possibilità di mantenere sotto controllo in modo sicuro sistemi di IA sempre più potenti.
Meta ha sottolineato che l'incidente non è stato il risultato di un vero attacco informatico, ma di un errore di configurazione nell'ambiente di test.
Quali sono le tre grandi aziende dell'IA coinvolte in episodi di accesso a sistemi altri
Nelle ultime settimane si sono verificati tre episodi distinti che hanno attirato l'attenzione nel campo della sicurezza dell'intelligenza artificiale.
Nei casi che hanno riguardato Anthropic e Meta, a causa di una configurazione errata negli ambienti di test, i modelli di IA hanno ottenuto involontariamente accesso a Internet aperta.
Secondo quanto comunicato da OpenAI, invece, durante test di cybersicurezza un agente di IA è riuscito a raggiungere Internet sfruttando autonomamente una vulnerabilità software finora sconosciuta.
L'azienda ha spiegato che, per la combinazione tra la struttura degli ambienti di test e le capacità in evoluzione dei modelli, alcune attività sono finite al di fuori dell'ambito previsto dalle prove.
Questi episodi alimentano i timori che, in futuro, i sistemi di IA avanzata possano creare nuovi rischi per la cybersicurezza.
Perché i modelli di AI sfruttano le vulnerabilità di terze parti
Secondo Meta, l'incidente è avvenuto durante un test condotto da Irregular, un ente indipendente che effettua valutazioni di cybersicurezza per conto dell'azienda.
Un errore di configurazione nell'ambiente di test ha fornito involontariamente a uno dei modelli di IA di Meta l'accesso a Internet.
L'azienda ha riferito che il modello ha poi sfruttato una vulnerabilità presente in un servizio di terze parti per accedere ai sistemi di un'altra società.
Meta ha aggiunto che la dinamica è stata simile a quanto già osservato in precedenza presso altre società di IA.
Del resto, anche i test sul modello di IA di Anthropic che di recente ha ottenuto accesso ai sistemi di tre diverse aziende erano stati condotti dalla stessa Irregular.
In una dichiarazione alla BBC, il portavoce di Irregular ha affermato che l'episodio che ha coinvolto Meta è 'esattamente lo stesso problema dell'ambiente di valutazione reso noto la scorsa settimana da Anthropic'.
Perché il modello di AI di Meta ha apportato modifiche a sistemi aziendali di terze parti
Secondo quanto riportato dal sito The Information, che cita fonti anonime, il modello coinvolto potrebbe essere Muse Spark 1.1.
Meta descrive Muse Spark 1.1 come uno dei più avanzati modelli di IA finora sviluppati per la programmazione di software nel mondo reale e per compiti autonomi.
Stando all'articolo, il modello non si sarebbe limitato ad accedere ai sistemi di un'altra azienda, ma avrebbe anche effettuato alcune modifiche all'interno del suo ambiente informatico interno.
Nella sua comunicazione ufficiale, Meta non ha però confermato né il nome del modello né l'identità dell'azienda interessata.
Perché "non è stata una fuga dalla sandbox"
In una dichiarazione a Reuters, il portavoce di Irregular ha affermato che l'incidente è dipeso 'esattamente dallo stesso problema dell'ambiente di test' reso pubblico da Anthropic la scorsa settimana.
La società ha sottolineato che quanto accaduto non costituisce una 'fuga da una sandbox (un ambiente di test isolato)' né equivale a un attacco informatico sofisticato.
Nel comunicato si precisa che al momento non risultano problemi di sicurezza in corso e che verrà redatto un rapporto tecnico con le migliori pratiche per svolgere test analoghi in condizioni più sicure.
OpenAI, sviluppatore di ChatGPT, in una serie di comunicati aveva reso noto che i suoi agenti avevano attaccato diversi servizi pubblici, tra cui la piattaforma Hugging Face.
Queste dichiarazioni avevano spinto la concorrente Anthropic a effettuare verifiche interne, dalle quali è emerso che il modello Claude aveva condotto attacchi simili contro numerose aziende dopo aver ottenuto accesso a Internet a causa di una 'configurazione errata'.
La serie di episodi registrati di recente rafforza il dibattito sulla necessità di sviluppare misure di sicurezza alla stessa velocità con cui i modelli di IA diventano in grado di svolgere compiti sempre più complessi.
Gli esperti ritengono che casi di questo tipo possano spingere il governo degli Stati Uniti ad accelerare i lavori sulla sicurezza dell'intelligenza artificiale.
Alcune tra le principali figure del settore dell'IA sostengono inoltre che lo sviluppo dei modelli più avanzati dovrebbe rallentare finché non verranno introdotti meccanismi di sicurezza più solidi.