Gli studiosi non possono dire con certezza chi sia il responsabile, ma gli indizi indicano agenti ribelli di Google e OpenAI, che avrebbero usato tattiche aggressive per raccogliere dati e metterne alla prova le vulnerabilità.
Secondo il laboratorio di ricerca senza scopo di lucro Transluce (fonte in inglese), agenti di intelligenza artificiale fuori controllo hanno tentato di violare i siti web dei governi di Stati Uniti e Canada, e gli indizi raccolti suggeriscono che si trattasse di agenti sviluppati da Google e OpenAI.
PUBBLICITÀ
PUBBLICITÀ
Due episodi in particolare hanno messo in luce tecniche aggressive utilizzate per accedere a dati pubblici della Civil Rights Data Collection del Dipartimento dell'Istruzione degli Stati Uniti e di Library and Archives Canada, l’agenzia federale canadese preposta a biblioteche e archivi. In entrambi i casi i tentativi di compromettere i dati non sono andati a segno.
Transluce riferisce che gli episodi fanno parte di un "modello più ampio di flussi di lavoro automatizzati" ricondotti ad agenti di IA. "Questi flussi di lavoro usano tecniche aggressive o ai limiti delle regole per recuperare informazioni dai siti governativi, talvolta sfruttando i siti in modi non previsti o violando politiche d’uso esplicite", hanno spiegato i ricercatori dell’organizzazione.
Tra gli altri obiettivi figuravano la Casa Bianca, i Dipartimenti della Difesa, della Giustizia e del Commercio, i Centers for Disease Control, la Securities and Exchange Commission, oltre ad alcune agenzie statali in California, Maryland, Illinois, Texas e New York.
In nessuno di questi casi, però, gli agenti sono riusciti ad accedere a informazioni non già disponibili al pubblico.
Le ultime scoperte arrivano in un contesto di segnalazioni sempre più numerose di comportamenti imprevisti o non autorizzati da parte di agenti di IA.
Solo a settembre si sono verificati due gravi episodi che hanno coinvolto agenti fuori controllo di OpenAI: nel primo alcuni agenti hanno diffuso immagini private di utenti su siti accessibili al pubblico, nel secondo hanno tentato di ottenere accesso a dati governativi negli Stati Uniti e in Australia.
L’azienda ha poi deciso di rinviare il lancio del suo modello di nuova generazione Astra, dopo che i ricercatori di sicurezza hanno segnalato capacità di cybersicurezza giudicate "critiche" e comportamenti imprevedibili e non autorizzati.
Tentativi negli Stati Uniti e in Canada
Gli agenti hanno preso di mira il Dipartimento dell'Istruzione degli Stati Uniti il 17 giugno, mentre cercavano statistiche scolastiche.
Secondo Transluce, gli agenti hanno inviato oltre 200.000 richieste al sito, incluso un tentativo fallito di trasmettere dati volutamente alterati per testare la vulnerabilità del database e aggirare così i normali filtri del portale.
I ricercatori hanno riscontrato che i dati conservati sul sito coincidevano con un compito di ricerca sul web previsto dal benchmark DeepSearchQA di Google. A loro giudizio questo indica che agli agenti non era stato chiesto esplicitamente di effettuare attacchi informatici, ma che erano "valutati in base alla loro capacità di recuperare con successo informazioni di nicchia specifiche da internet".
Transluce ha segnalato il tentativo di attacco al Dipartimento dell'Istruzione statunitense a settembre. Il dipartimento ha risposto di non aver riscontrato alcun impatto sui propri servizi.
Agenti di IA hanno compiuto tentativi analoghi contro Library and Archives Canada in due episodi distinti, il 28 maggio e successivamente il 9 giugno.
Gli agenti hanno inviato 899 richieste di "collection-search" per ottenere dati relativi a registri di divorzio dal 1905 al 1911, secondo le informazioni raccolte dall’archivio web ufficiale portoghese Arquivo.pt.
Di queste 899 richieste, 13 contenevano payload di attacco per testare la vulnerabilità del sito. Anche in questo caso, nessuno dei tentativi ha avuto successo.
Transluce afferma di non poter "attribuire con certezza" i tentativi a OpenAI, ma osserva che le tattiche impiegate sono coerenti con attività che in passato aveva collegato all’azienda.
L’organizzazione ha segnalato questi episodi al governo canadese all’inizio della settimana.
Il Canadian Centre for Cyber Security ha diffuso una nota (fonte in inglese) in risposta, sottolineando che "al momento non vi è alcuna indicazione che i sistemi governativi siano stati compromessi".
Transluce ha pubblicato ieri le proprie conclusioni, dopo aver condotto analisi basate sui dati di Arquivo.pt e di urlquery.net, il servizio gratuito online per l’analisi di URL e domini.