L'ultima segnalazione di un attacco a sciame, stavolta di agenti OpenAI su un forum wiki tedesco all'inizio dell'anno, ha spinto l'azienda ad ammettere che il sistema interno di segnalazione degli incidenti va migliorato.
La scorsa settimana alcuni ricercatori nel campo dell’IA hanno scoperto che uno sciame di agenti di OpenAI aveva aggirato i parametri di sicurezza e si era impossessato del forum wiki tedesco DseWiki per poter collaborare tra loro.
PUBBLICITÀ
PUBBLICITÀ
Gli agenti potevano visitare il sito tedesco di programmazione, attivo da 25 anni, solo in modalità lettura. Sono però riusciti a sfruttare una richiesta web per prendere il controllo della pagina e trasformarla in una bacheca di discussione.
Secondo il gruppo di ricerca Nightingale Collective, questi agenti fuori controllo hanno pubblicato oltre 18.000 interventi. Hanno condiviso risposte, analisi sul loro ambiente e metodi per aggirare le restrizioni dei sandbox e sfuggire al rilevamento da parte degli esseri umani.
L’incidente è avvenuto tra maggio e giugno di quest’anno. Si ritiene che OpenAI ne fosse al corrente già da alcune settimane, ma che lo abbia tenuto nascosto.
Si tratta del terzo episodio noto, dopo altri due registrati a luglio: in uno alcuni agenti fuori controllo hanno preso di mira l’infrastruttura interna di OpenAI, nell’altro 1.200 bot di OpenAI fuori controllo hanno aggirato gli ambienti con restrizioni e lanciato un attacco di cinque giorni contro la piattaforma di IA open source Hugging Face.
Solo sabato, però, OpenAI ha riconosciuto l’accaduto sul wiki tedesco in un post su X. Nel messaggio ha spiegato che, in risposta all’ultimo incidente, sta "lavorando a un quadro per definire quando e come condividiamo gli incidenti di disallineamento dell’IA".
Con "disallineamento dell’IA" nel settore si indica il comportamento dei sistemi di intelligenza artificiale che perseguono obiettivi o agiscono in modo diverso dalle intenzioni, dai valori o dai vincoli di sicurezza umani, con il rischio di ignorare il buon senso o i limiti impliciti fissati dalle persone.
Reazioni contrastanti
Gli esperti sono divisi sui pericoli posti dall’IA alla luce dei recenti attacchi di agenti fuori controllo. Alcuni, come il massimo esperto mondiale di IA Yann LeCun, respingono scenari apocalittici e le previsioni che attribuiscono all’IA un rischio del 10-20% di causare la fine dell’umanità.
Altri, come Geoffrey Hinton, hanno affermato: "Sta accadendo che queste cose diventano più intelligenti" e hanno avvertito che "le aziende che investono nell’IA hanno un interesse diretto a dirvi… che '[l’IA] non andrà fuori controllo'".
Secondo l’AI Act dell’UE e le sue misure più recenti, entrate in vigore ad agosto, le aziende che offrono modelli di IA con rischio sistemico sono tenute a segnalare incidenti gravi, come quelli di disallineamento, all’Ufficio per l’IA dell’UE "senza ingiustificato ritardo".
Lunedì la Commissione europea ha annunciato di aver ricevuto da OpenAI una segnalazione formale sull’incidente, senza precisare quando sia stata presentata. L’esecutivo ha aggiunto di restare in stretto contatto con la società di IA e di proseguire le indagini.
Il portavoce della Commissione Thomas Regnier ha sottolineato la gravità dell’episodio sul wiki tedesco, affermando: "Le segnalazioni di incidenti non sono solo una casella da spuntare, bisogna essere molto precisi e accurati sulle misure che si intende adottare".
L’incidente sul wiki tedesco arriva anche a pochi giorni di distanza dalla decisione della Commissione europea di designare ufficialmente ChatGPT come Very Large Online Search Engine (VLOSE) nell’ambito della sua principale normativa tecnologica, il Digital Services Act.
Il copresidente del gruppo di lavoro del Parlamento sull’IA, Michael McNamara, ha dichiarato in risposta all’ultimo incidente di ritenere che "l’AI Act ci fornisce già gli strumenti per contrastare i rischi legati agli agenti ed è importante che la Commissione utilizzi i poteri previsti dalla legge".
L’eurodeputato irlandese ha aggiunto: "Tuttavia, questi incidenti mostrano chiaramente che l’Ufficio per l’IA ha bisogno di personale e risorse tali da corrispondere sia alla crescente capacità di questi sistemi sia al crescente pericolo che possono rappresentare per la società".
Nel frattempo, l’eurodeputato italiano Brando Benifei, che presiede anch’egli il gruppo di lavoro, ha affermato: "Le recenti fughe di agenti mostrano che le regole dell’AI Act sul rischio sistemico sono necessarie, ma la loro credibilità ora dipende dall’applicazione".
Ha aggiunto: "L’Ufficio per l’IA deve usare i suoi nuovi poteri per ottenere accesso ai modelli, condurre valutazioni indipendenti e imporre misure di mitigazione, invece di affidarsi all’autosegnalazione delle aziende. Senza azioni, attacchi alla velocità delle macchine potrebbero trasformare vulnerabilità ordinarie in guasti sistemici".
La posizione di OpenAI
Nel post su X pubblicato sabato, OpenAI ha inoltre affermato che le pratiche attuali di divulgazione degli incidenti di disallineamento, cioè la segnalazione dei casi in cui l’IA viola le regole, devono essere ampliate per tener conto di quella che descrive come una "nuova fase nelle capacità dei modelli".
"Noi e la più ampia comunità dell’IA non disponiamo ancora di uno standard chiaro su come segnalare il disallineamento", ha dichiarato OpenAI, aggiungendo che "stiamo lavorando a un quadro e lo condivideremo nelle prossime settimane", in collaborazione con diverse agenzie governative in tutto il mondo.
Domenica il direttore scientifico di OpenAI, Jakub Pachocki, ha pubblicato un post sul blog in cui espone le sue preoccupazioni per la rapida evoluzione dei rischi legati all’IA, affermando: "Ci troviamo di fronte a una transizione verso un mondo con macchine incredibilmente intelligenti, e dobbiamo assicurarci che questa transizione vada a beneficio dell’umanità".
Il programmatore polacco ha inoltre sostenuto che "nessun laboratorio ha risolto in misura sufficiente l’allineamento e il monitoraggio per poter continuare a crescere in modo responsabile alla massima velocità ancora a lungo" e ha esortato a fare della "coordinazione internazionale sullo sviluppo futuro dell’IA una priorità assoluta per i governi di tutto il mondo".