L'ultimo rapporto su un attacco di sciami di agenti OpenAI ha spinto eurodeputati a chiedere che l'Ufficio IA dell'UE "usi i suoi nuovi poteri" per "contrastare i rischi degli agenti", invece di affidarsi all'autodenuncia delle aziende.
La scorsa settimana i ricercatori hanno individuato un nuovo attacco di sciami legati a OpenAI: in questo caso alcuni agenti hanno aggirato i parametri di sicurezza e preso il controllo del forum wiki tedesco DseWiki. L'episodio ha spinto diversi eurodeputati a chiedere che il nuovo Ufficio per l'IA dell'UE intervenga con urgenza per contrastare la minaccia dell'IA agentica, invece di permettere alle aziende di autoregolamentarsi.
PUBBLICITÀ
PUBBLICITÀ
Agli agenti era stato consentito di accedere al sito di programmazione tedesco, attivo da 25 anni, solo in modalità lettura. Sono però riusciti a sfruttare una richiesta web per dirottare il sito e trasformarlo in una sorta di bacheca.
Secondo il gruppo di ricerca Nightingale Collective, gli agenti fuori controllo hanno pubblicato oltre 18.000 messaggi, condividendo risposte, analisi sul proprio ambiente e metodi per oltrepassare le limitazioni delle sandbox e sfuggire all'individuazione da parte degli esseri umani.
L'incidente sarebbe avvenuto tra maggio e giugno di quest'anno. Si ritiene che OpenAI ne fosse al corrente già da alcune settimane, ma abbia preferito non renderlo pubblico.
Si tratta del terzo episodio segnalato, dopo altri due avvenuti a luglio: in uno, agenti fuori controllo hanno preso di mira l'infrastruttura interna di OpenAI; nell'altro, 1.200 bot di OpenAI hanno aggirato i propri ambienti vincolati e sferrato un attacco di cinque giorni contro la piattaforma di intelligenza artificiale open source Hugging Face.
Solo sabato però OpenAI ha riconosciuto l'incidente del wiki tedesco in un post su X, spiegando che, in risposta a quanto accaduto, sta "lavorando a un quadro che definisca quando e come condividiamo gli incidenti di disallineamento dell'IA".
Con "disallineamento dell'IA" nel settore si indica la situazione in cui i sistemi di intelligenza artificiale perseguono obiettivi o adottano comportamenti che si discostano dalle intenzioni umane, dai valori o dai vincoli di sicurezza, arrivando potenzialmente a ignorare il buon senso o i limiti impliciti posti dalle persone.
Una risposta divisa
Gli esperti sono divisi sui rischi legati all'IA alla luce dei recenti attacchi di sistemi fuori controllo. Alcuni, come il noto ricercatore Yann LeCun, respingono gli scenari apocalittici e le stime secondo cui esisterebbe un rischio tra il 10 e il 20% che l'IA provochi la fine dell'umanità.
Altri, come Geoffrey Hinton, sostengono invece che "quello che sta accadendo è che queste cose diventano sempre più intelligenti" e avvertono che "le aziende che investono nell'IA hanno un interesse diretto a dirvi che… [l'IA] non andrà fuori controllo".
In base all'AI Act dell'UE e alle misure più recenti, entrate in vigore ad agosto, le aziende che offrono modelli di IA con rischio sistemico sono tenute a segnalare gli incidenti gravi, inclusi quelli di disallineamento, all'Ufficio per l'IA dell'UE "senza indebito ritardo".
Lunedì la Commissione europea ha annunciato di aver ricevuto una segnalazione formale da OpenAI sull'incidente. Non ha precisato quando il rapporto sia stato trasmesso, ma ha fatto sapere di essere in stretto contatto con l'azienda di IA e di proseguire gli accertamenti.
Il portavoce della Commissione Thomas Regnier ha sottolineato la gravità di quanto avvenuto sul wiki tedesco, spiegando che "le segnalazioni di incidente non sono un semplice adempimento burocratico: bisogna essere molto precisi e accurati sulle misure che si intende adottare".
Michael McNamara, copresidente del gruppo di lavoro sull'IA del Parlamento, ha dichiarato in relazione all'ultimo episodio di ritenere che "l'AI Act ci dia già gli strumenti per contrastare i rischi legati agli agenti ed è importante che la Commissione utilizzi i poteri previsti dalla legge".
L'eurodeputato irlandese ha aggiunto: "Questi incidenti dimostrano però che l'Ufficio per l'IA ha bisogno di personale e risorse all'altezza sia delle capacità in crescita di questi sistemi sia dei pericoli crescenti che possono rappresentare per la società".
Nel frattempo l'eurodeputato italiano Brando Benifei, anche lui copresidente del gruppo di lavoro, ha affermato: "Le recenti fughe di agenti dimostrano che le norme dell'AI Act sul rischio sistemico sono necessarie, ma la loro credibilità dipende ormai dall'applicazione".
E ha aggiunto: "L'Ufficio per l'IA deve usare i suoi nuovi poteri per ottenere accesso ai modelli, svolgere valutazioni indipendenti e imporre misure di mitigazione, invece di affidarsi all'autosegnalazione delle aziende. Senza interventi, attacchi alla velocità delle macchine potrebbero trasformare normali vulnerabilità in guasti sistemici".
L'incidente del wiki tedesco arriva inoltre a pochi giorni di distanza dalla decisione della Commissione europea di classificare ufficialmente ChatGPT come Very Large Online Search Engine (VLOSE) nell'ambito della sua principale normativa tecnologica, il Digital Services Act.
Cosa dice OpenAI
Nel post di sabato su X, OpenAI ha inoltre sostenuto che le attuali pratiche di segnalazione degli episodi di disallineamento, cioè dei casi in cui l'IA infrange le regole, devono essere ampliate per tenere conto di quella che definisce una "nuova fase delle capacità dei modelli".
"Noi e la più ampia comunità dell'IA non abbiamo ancora uno standard chiaro su come segnalare il disallineamento", ha scritto OpenAI, aggiungendo che "stiamo lavorando a un quadro di riferimento e lo condivideremo nelle prossime settimane" con la collaborazione di diverse agenzie governative nel mondo.
Domenica il direttore scientifico di OpenAI, Jakub Pachocki, ha pubblicato un post sul blog in cui espone le sue preoccupazioni per la rapida evoluzione dei rischi legati all'IA. "Stiamo affrontando una transizione verso un mondo con macchine incredibilmente intelligenti e dobbiamo assicurarci che questa transizione sia positiva per l'umanità", ha scritto.
Lo sviluppatore polacco ha anche detto di ritenere che "nessun laboratorio abbia risolto il problema dell'allineamento e del monitoraggio in misura sufficiente da poter continuare ad aumentare la scala al massimo della velocità ancora a lungo in modo responsabile" e ha esortato affinché "il coordinamento internazionale sullo sviluppo futuro dell'IA diventi una priorità assoluta per i governi di tutto il mondo".