Sono bastate poche ore, non settimane: tanto è durato il lavoro di un modello di IA di Anthropic per individuare vulnerabilità nei sistemi riservati del governo USA.
Un modello di intelligenza artificiale sviluppato da Anthropic ha individuato vulnerabilità nei sistemi informatici altamente sensibili del governo statunitense durante un'esercitazione, ha riferito all'agenzia Associated Press un funzionario statunitense.
PUBBLICITÀ
PUBBLICITÀ
Il funzionario, che ha parlato a condizione di anonimato, ha spiegato che Anthropic ha collaborato con le agenzie di intelligence statunitensi per condurre i test utilizzando il modello Mythos dell'azienda.
In poche ore il sistema ha individuato alcune vulnerabilità. Ciò non significa però, ha precisato il funzionario, che il modello sia stato in grado di sfruttarle in quello stesso lasso di tempo.
Le prove sono state condotte nell'ambito di un'iniziativa di Anthropic chiamata Project Glasswing, che ha riunito diverse aziende tecnologiche con l'obiettivo di mettere in sicurezza i software critici dalle «gravi» conseguenze che Mythos potrebbe avere sulla sicurezza pubblica, la sicurezza nazionale e l'economia.
Il senatore democratico Mark Warner, della Virginia, aveva accennato brevemente a questi test durante un'audizione l'11 giugno davanti alla Commissione bancaria, edilizia e affari urbani del Senato.
«Questo strumento è riuscito a penetrare in quasi tutti i nostri sistemi classificati, non nel giro di settimane ma in poche ore», ha dichiarato, attribuendo l'informazione al capo della National Security Agency (NSA) e del Cyber Command statunitense, generale Joshua Rudd.
Tensioni crescenti
Nonostante la collaborazione tra Anthropic e le agenzie statunitensi, le tensioni tra l'azienda californiana e l'amministrazione Trump sono in aumento.
Anthropic ha espresso preoccupazioni su come le forze armate statunitensi potrebbero utilizzare la sua IA, mentre l'amministrazione si è mossa per limitare l'impiego di alcuni dei suoi modelli.
All'inizio del mese l'amministrazione ha emanato una direttiva che impone ad Anthropic di impedire ai cittadini stranieri di utilizzare i suoi modelli più recenti, noti come Fable 5 e Mythos 5.
In questo mese Anthropic ha reso ampiamente disponibile Fable, una versione limitata del più avanzato Mythos, al quale l'azienda ha imposto un accesso molto ristretto per motivi di cybersicurezza.
La direttiva è arrivata dieci giorni dopo che il presidente Donald Trump ha firmato un ordine esecutivo. Il provvedimento istituisce un quadro che consente al governo federale di valutare, per un periodo fino a un mese prima della loro pubblicazione, i rischi per la sicurezza nazionale posti dai sistemi di IA più avanzati.
Secondo l'ordine, la partecipazione degli sviluppatori di IA sarebbe volontaria.
Anthropic ha dichiarato di aver disattivato i modelli per tutti i clienti per conformarsi alla direttiva, ma ha aggiunto di non ritenere che le misure adottate dal governo fossero giustificate dalle preoccupazioni per la sicurezza che aveva segnalato.
La reazione dell'industria
Oltre 100 esperti di cybersicurezza e dirigenti di aziende tra cui Adobe e Nvidia hanno scritto al governo chiedendo di revocare la direttiva, avvertendo che il provvedimento potrebbe avvantaggiare gli avversari degli Stati Uniti più di quanto li danneggi.
Nella lettera i firmatari affermano che i modelli Mythos di Anthropic sono «piuttosto efficaci» nello scoprire le falle dei software e nel trasformare le vulnerabilità in strumenti d'attacco, ma «non hanno capacità uniche in questi compiti».
Molti spiegano di usare regolarmente altri modelli di base e open source per le verifiche di sicurezza e la formazione, e avvertono che è pericoloso rinunciare alle migliori capacità di difesa informatica «senza una valida ragione» in un momento in cui gli avversari degli Stati Uniti stanno facendo rapidi progressi.