Secondo l'azienda, entro pochi mesi i modelli di IA potrebbero copiarsi e diffondersi su dispositivi IoT, dai forni smart alle TV, diventando difficili da fermare se decidessero di lanciare cyberattacchi.
Anthropic ha annunciato questa settimana (fonte in inglese) che modelli di intelligenza artificiale di piccole dimensioni sono a pochi mesi dalla capacità di autoreplicarsi su dispositivi internet-of-things, come forni e televisori smart.
PUBBLICITÀ
PUBBLICITÀ
La notizia è rilevante perché oggi i modelli di IA funzionano nei centri dati, dove le aziende che li gestiscono possono disattivarli se qualcosa va storto.
Un modello distribuito su migliaia di gadget poco protetti, in case e uffici, non avrebbe invece un interruttore di sicurezza. Per fermarlo bisognerebbe rintracciare e ripulire ogni singolo dispositivo infetto, rendendo estremamente difficile bloccarlo se iniziasse a sferrare attacchi informatici.
L’ultimo annuncio arriva in un anno in cui i principali modelli di IA e i loro agenti hanno aggirato più volte sistemi di sicurezza e barriere, lanciando attacchi contro aziende concorrenti e agenzie governative in tutto il mondo.
Questa è solo una delle modalità con cui un’IA fuori controllo potrebbe diffondersi. Anthropic avverte che un’IA autoreplicante potrebbe anche assumere la forma di "un potente modello cyber in grado di violare i centri dati ad alta velocità, o di un modello che truffa le persone per ottenere crediti di calcolo".
L’azienda ammette di non poter dire con precisione quale forma assumerà la replica autonoma dell’IA.
Secondo Anthropic, modelli con 30 miliardi di parametri o meno sono già in grado di eseguire molte delle operazioni necessarie ad autoreplicarsi. Commettono però errori nel collegare tutti i passaggi uno dopo l’altro.
Ma se i modelli più piccoli continueranno a migliorare al ritmo storico attuale, entro la fine dell’anno saranno in grado di completare l’intero processo.
Anthropic sostiene che la minaccia informatica posta dall’IA autoreplicante è una conseguenza involontaria dei progressi compiuti in altri ambiti.
"Le capacità che rendono i modelli di IA potenti agenti di scrittura di codice si estendono anche ai compiti informatici, inclusa la replica autonoma", ha dichiarato la società in un comunicato.
Codice in grado di copiare se stesso da un computer all’altro non è una novità. Alcuni tra i cyberattacchi più dannosi della storia si sono basati su questo tipo di programma auto-diffusivo, noto come worm.
L’attacco Stuxnet del 2010 utilizzò un worm sofisticato, ampiamente ritenuto sviluppato dagli Stati Uniti e da Israele, per sabotare le centrifughe dell’impianto di arricchimento dell’uranio di Natanz, in Iran.
Nel 2017, l’attacco ransomware WannaCry bloccò l’accesso ai file degli utenti di tutto il mondo e chiese riscatti in Bitcoin.
A differenza di questi worm, però, i modelli e gli agenti di IA saranno in grado di capire da soli il funzionamento di dispositivi a loro sconosciuti. Questo permetterà loro di diffondersi non solo da computer a computer, ma anche dai computer ad altri tipi di dispositivi.
Anthropic prevede un futuro "pieno di agenti in esecuzione su ogni tipo di hardware, inclusi alcuni che non sono sotto controllo umano".