Per la prima volta, hacker hanno usato l’intelligenza artificiale per trovare e sfruttare una falla che gli scanner automatici non rilevano, e Google afferma che solo il suo monitoraggio attivo ha fermato un attacco di massa.
L'intelligenza artificiale ha reso più semplice scrivere email, creare fogli di calcolo e organizzare le vacanze, come dimostra l'ampia diffusione dei diversi modelli di IA.
PUBBLICITÀ
PUBBLICITÀ
Ma, secondo un recente rapporto di Google, ha reso anche molto più facile individuare falle nei software dei nostri sistemi che finora erano sconosciute o impossibili da prevedere.
Il Threat Intelligence Group di Google ha dichiarato di aver intercettato per la prima volta hacker che usano IA per scoprire e sfruttare una cosiddetta vulnerabilità zero-day: una falla di sicurezza di cui lo sviluppatore del software non è ancora a conoscenza e per la quale non esiste alcuna correzione.
Nel mirino c'era un diffuso strumento di amministrazione di sistema basato sul web e la falla permetteva agli aggressori di aggirare l'autenticazione a due fattori, quel secondo livello di sicurezza che la maggior parte delle persone ritiene protegga i propri account.
Google ha spiegato di aver individuato l'attacco prima che potesse essere lanciato su larga scala e di aver avvisato in modo riservato il fornitore del software.
«L'autore della minaccia criminale prevedeva di usarla in un'operazione di sfruttamento su vasta scala, ma la nostra individuazione proattiva potrebbe averne impedito l'utilizzo», si legge nel rapporto.
«Attori delle minacce legati alla Repubblica Popolare Cinese (RPC) e alla Repubblica Popolare Democratica di Corea (RPDC) hanno inoltre dimostrato un forte interesse a sfruttare l'IA per la ricerca di vulnerabilità».
Una falla sfuggita agli sviluppatori
Questa vulnerabilità zero-day non è un difetto tradizionale. I normali scanner di sicurezza cercano crash ed errori di memoria, l'equivalente informatico di un correttore ortografico che individua l'equivalente digitale di un refuso. In questo caso, però, la falla era nascosta nella logica del codice: una sottile assunzione rigida inserita dallo sviluppatore che nessuno scanner automatico avrebbe rilevato.
È il tipo di errore in cui in superficie sembra tutto corretto, ma il ragionamento di fondo è sbagliato. È come un caveau di banca con una serratura funzionante che però si apre per chi conosce l'eccezione, perché il progettista, senza rendersene conto, ne ha prevista una.
È proprio questo il genere di contraddizione che l'IA sa individuare bene. «I LLM di frontiera eccellono nell'identificare questo tipo di vulnerabilità ad alto livello e di anomalie statiche codificate in modo rigido», prosegue il rapporto.
Pur avendo difficoltà a districarsi nella complessa logica di autorizzazione delle grandi aziende, «stanno acquisendo una crescente capacità di svolgere ragionamenti contestuali... e di cogliere le contraddizioni delle eccezioni codificate in modo rigido», conclude il documento.
La combinazione di queste capacità permette ai modelli di portare alla luce errori logici latenti che agli scanner tradizionali appaiono funzionalmente corretti, ma che dal punto di vista della sicurezza sono compromessi.
Non solo un trucco
Anche se la vulnerabilità zero-day è il risultato principale, l'insieme del rapporto è tutt'altro che rassicurante.
Gruppi di hacker sostenuti dagli Stati cinesi e nordcoreani utilizzano l'IA per cercare vulnerabilità su scala industriale, inviando richieste automatiche per sondare i punti deboli di tutto, dai router domestici alle reti aziendali.
Google ha osservato un gruppo nordcoreano «inviare migliaia di prompt ripetitivi che analizzano in modo ricorsivo diverse CVE e convalidano exploit di tipo PoC», costruendo quello che il rapporto definisce «un arsenale più solido di capacità di exploit che sarebbe di fatto impraticabile gestire senza l'assistenza dell'IA».
I gruppi legati alla Russia, nel frattempo, usano l'IA per sviluppare malware che si riscrive al volo per eludere i sistemi di rilevamento, una capacità che in passato richiedeva una notevole competenza umana.
L'IA sta trasformando anche il phishing. Invece di inviare in massa email generiche, gli aggressori ora usano l'IA per mappare le gerarchie aziendali, identificare obiettivi specifici con accesso a dati sensibili e generare, nelle parole del rapporto, «esche di phishing di qualità superiore, adattate a persone con privilegi amministrativi», ben oltre «le tattiche banali del phishing tradizionale su larga scala».
Secondo Google, il cambiamento più ampio è il passaggio da un'IA usata come semplice strumento di ricerca a una sorta di combattente attivo nel campo della sicurezza.
«Il modello linguistico non è più soltanto un consulente passivo, ma un partecipante attivo nella catena offensiva, capace di orchestrare insiemi complessi di strumenti e di prendere decisioni tattiche alla velocità della macchina».
Gli stessi strumenti di IA di Google hanno segnalato la vulnerabilità zero-day prima che potesse causare danni: è l'aspetto positivo della vicenda. L'azienda sta impiegando propri agenti di IA per individuare e correggere le falle più rapidamente di quanto potrebbero fare i team umani.