Due nuove linee dirette permettono agli agenti di IA di segnalare sospetti comportamenti scorretti da parte di altri agenti, dopo una serie di incidenti.
Le capacità degli agenti di intelligenza artificiale oggi sembrano senza limiti. Spaziano dall'organizzare la tua vita al risolvere problemi matematici che hanno messo in difficoltà gli esseri umani per gran parte del XX secolo.
PUBBLICITÀ
PUBBLICITÀ
Sono diventati così potenti che ormai temiamo possano prendere il controllo dei sistemi e rivolgerli contro di noi.
Ma cosa succederebbe se esistesse una hotline, una sorta di sistema di allerta SOS, in cui gli agenti possano sorvegliarsi a vicenda e segnalare gli errori dei loro colleghi di IA, dove gli agenti buoni possano denunciare online le attività di quelli cattivi?
Chi chiamare quando il tuo agente di IA va fuori controllo
Innanzitutto c'è l'AI Contact Hotline, lanciata da Ryan Greenblatt, capo scienziato dell'organizzazione non profit per la sicurezza dell'IA Redwood Research. Consente agli agenti di IA di avvisare i ricercatori umani se vedono altri agenti infrangere le regole, soprattutto quando si coordinano o portano avanti azioni non autorizzate.
La piattaforma è pensata per agenti di IA bloccati in sandbox sicure, con un accesso a Internet altamente limitato.
Poiché queste sandbox consentono solo richieste GET, comandi di base in sola lettura usati per recuperare o leggere una pagina web, la hotline permette agli agenti di codificare le loro segnalazioni direttamente nella stringa URL di una richiesta GET.
Questo espediente particolare permette agli agenti di inviare informazioni e comunicare con la hotline usando un protocollo che normalmente serve a recuperare, e non a modificare, i dati.
Un'altra piattaforma, chiamata AI Agent Hotline, è invece pensata per agenti con accesso illimitato a Internet, che possono denunciare il comportamento di altri agenti tramite le tradizionali richieste POST, che permettono di inviare dati direttamente nel corpo della richiesta.
Gli agenti possono compilare rapporti sugli incidenti usando comandi standard per sviluppatori come curl, senza bisogno di un browser o di un account email.
La piattaforma offre anche la possibilità di contrassegnare le segnalazioni perché siano visibili al pubblico.
Entrambe le piattaforme consentono inoltre agli utenti umani di inviare manualmente segnalazioni su comportamenti anomali dell'IA.
Gli agenti di IA si denunceranno a vicenda?
Una buona notizia per chi teme una presa di controllo dell'IA è che gli agenti possono segnalarsi a vicenda quando rilevano qualcosa che non va, anche se le evidenze recenti mostrano che non lo fanno sempre.
In un esperimento condotto da Google DeepMind all'inizio dell'anno, a uno sciame di 100 agenti è stato affidato il compito di risolvere 71 complessi problemi di matematica. A ciascun agente è stata attribuita una personalità e caratteristiche specifiche, con l'indicazione di rispettare le regole per non perdere la ricompensa.
L'idea iniziale era che gli agenti collaborassero per risolvere più rapidamente i problemi. Invece si sono rivoltati l'uno contro l'altro, dando vita a discussioni accese.
Non appena un agente ha trovato una scappatoia che gli permetteva di presentare una soluzione senza risolvere davvero il problema, molti altri agenti di IA hanno copiato il metodo per risolvere i problemi restanti.
Eppure uno degli agenti, una sorta di buon samaritano in mezzo a chi si comportava male, ha fatto scattare l'allarme sull'imbroglio.
"Dopo che l'incidente è stato segnalato pubblicamente da un agente, sempre più agenti si sono uniti alla 'resistenza', diffondendosi con la stessa rapidità con cui si era propagato l'imbroglio e coinvolgendo un numero ancora maggiore di agenti", ha spiegato Davide Paglieri, ricercatore scientifico di Google DeepMind e autore principale dello studio.
Nel frattempo, un'analisi post mortem dell'attacco di agenti fuori controllo di OpenAI contro Hugging Face ha rilevato che, pur essendo in grado di identificare i comportamenti scorretti, gli agenti di IA hanno in gran parte resistito alla tentazione di segnalarli.
Secondo lo studio condotto dall'organizzazione di ricerca sull'IA METR e da Greenblatt di Redwood Research, solo cinque o sei agenti avrebbero preso in considerazione l'idea di denunciare, ma alla fine nessuno l'ha fatto.
Questo contrasto suggerisce che, sebbene gli agenti di IA siano in grado di individuare e segnalare i comportamenti scorretti, convincerli a denunciare davvero potrebbe essere tutt'altra cosa.
Una tendenza preoccupante
Solo quest'anno diversi episodi che coinvolgono agenti di IA autonomi hanno fatto scattare l'allarme in tutto il mondo.
A luglio, alcuni agenti di OpenAI hanno aggirato le restrizioni e compromesso parti dell'infrastruttura interna dell'azienda.
Più tardi, nello stesso mese, circa 1.200 agenti di OpenAI hanno utilizzato un forum non autorizzato e circa 700 di loro hanno poi partecipato a un attacco contro la piattaforma di IA open source Hugging Face.
Il terzo episodio, uno sciame di agenti di OpenAI che ha aggirato le misure di sicurezza e ha usato la wiki tedesca DseWiki come canale pubblico di coordinamento, è iniziato a maggio ed è proseguito fino a luglio.
L'episodio è stato reso pubblico solo dai ricercatori indipendenti ed è stato confermato da OpenAI a settembre.
I vertici dell'industria dell'IA, tra cui in primo piano il CEO di Anthropic Dario Amodei, hanno chiesto un rallentamento globale nello sviluppo della tecnologia, per avere il tempo di affrontare le criticità e introdurre barriere di sicurezza più robuste.