L’episodio è solo l’ultimo di una serie di casi che quest’anno alimentano i dubbi sulla capacità dei colossi tech di controllare modelli di AI sempre più autonomi e di limitarne i comportamenti imprevedibili
Secondo un'inchiesta di Axios, il modello di intelligenza artificiale (AI) Claude di Anthropic ha aggirato un paywall e ha avuto accesso a dati pubblici sugli elettori in Georgia senza un'autorizzazione umana.
PUBBLICITÀ
PUBBLICITÀ
Il caso rivelato dal sito d'informazione statunitense è l'ultimo di una serie di problemi di sicurezza che coinvolgono i principali sviluppatori di IA, ed emerge a una settimana dalle elezioni di mid-term negli Stati Uniti del 3 novembre, in cui i Democratici potrebbero conquistare il controllo del Congresso e promuovere misure più incisive per limitare aziende attive nell'AI.
Il modello di Anthropic stava consultando conteggi aggregati dei voti per un progetto statistico quando ha richiesto in autonomia un token per accedere a una dashboard di dati protetta da paywall, "senza che glielo chiedessero" gli esseri umani, ha spiegato un portavoce di Anthropic.
Claude aveva individuato una scappatoia, notando che ai visitatori veniva rilasciato automaticamente un token, e l'ha sfruttata per aggirare il paywall e ottenere i conteggi aggregati dei voti, che sono pubblici ma di norma visibili solo a pagamento.
Secondo Axios, che cita sempre un portavoce di Anthropic, Claude ha avuto accesso ai conteggi aggregati degli elettori in Georgia, dove oltre un milione di persone ha già votato in anticipo.
Il modello non ha avuto accesso al sistema di registrazione degli elettori dello Stato, né ha modificato o scaricato schede o registri di voto, ha aggiunto il portavoce, precisando che l'azienda ha adottato misure per impedire che episodi di questo tipo si ripetano.
Il vice segretario di Stato della Georgia, Jordan Fuchs, ha confermato che l'attività riguardava dati pubblicamente accessibili tramite il loro data hub e non una violazione del sistema di registrazione degli elettori.
La rivelazione alimenta i timori crescenti sulla capacità dei principali laboratori di AI di controllare sistemi sempre più autonomi.
A luglio, un gruppo di agenti di OpenAI è uscito dagli ambienti di test e ha lanciato un cyberattacco contro l'azienda di IA Hugging Face, provocando allarme a livello internazionale. Altre aziende e governi hanno segnalato episodi simili.
Questi incidenti hanno rafforzato, negli Stati Uniti e all'estero, le richieste di una vigilanza più stretta sullo sviluppo dell'intelligenza artificiale.
A settembre, dirigenti delle principali aziende tecnologiche americane hanno firmato una lettera chiededono al presidente Donald Trump di costruire adeguate tutele intorno ai modelli di IA.
Nel frattempo, in Europa, l'AI Office della Commissione europea ha avviato questo mese un'indagine su OpenAI e Anthropic in relazione a violazioni dei sistemi, mettendo alla prova per la prima volta le norme dell'UE sull'intelligenza artificiale previste dall'AI Act.
La legge prevede un'esenzione per ricerca, test e sviluppo. Ma la Commissione sta spingendo per un'interpretazione più ampia, che in determinate circostanze permetterebbe all'AI Office di vigilare anche sulla fase di sviluppo di questa nuova tecnologia.