I ricercatori hanno creato un worm basato sull'intelligenza artificiale che può fare gravi danni senza bisogno di un clic.
PUBBLICITÀ
Questo nuovo worm di intelligenza artificiale (AI) può infiltrarsi in modelli come ChatGPT e Gemini e potenzialmente rubare dati. Iricercatori che hanno creato il worm informatico lo hanno costruito di proposito, per cercare di capire come funziona e come combatterlo.
Un worm informatico è un malware che può replicarsi e diffondersi compromettendo altre macchine. A differenza di altri worm, questo non ha bisogno che l'utente faccia clic o apra un'e-mail per ricevere il malware, ma lo fa automaticamente nel momento in cui riceve l'e-mail infetta.
Il worm è stato chiamato Morris II, dal nome del primo worm informatico mai sviluppato nel 1988.
I ricercatori hanno creato un sistema di posta elettronica in grado di rispondere ai messaggi e poi di collegarsi ai modelli ChatGPT, Gemini e LLaVA. Morris II è stato usato contro gli assistenti di posta elettronica alimentati da IA generativa ed è stato in grado di rubare dati personali e lanciare campagne di spamming.
"Lo studio dimostra che gli aggressori possono fare in modo che il modello replichi l'input e intraprenda attività dannose", scrivono i ricercatori.
Il prompt, ovvero qualsiasi domanda o comunicazione posta al modello AI, costringe il modello AI a rispondere con un altro prompt, che può infettare l'assistente AI per poi estrarre informazioni sensibili.
Il worm può poi essere inviato ad altri contatti della rete online, "sfruttando la connettività all'interno dell'ecosistema di IA generativa", aggiungono i ricercatori.
I ricercatori avvertono che, sebbene per il momento non sia stato individuato alcun worm AI esistente, è solo questione di tempo. "In pratica significa che ora si ha la possibilità di condurre o eseguire un nuovo tipo di attacco informatico che non è mai stato visto prima", ha dichiarato in un'intervista a Wired Ben Nassi, ricercatore della Cornell University che ha creato il worm informatico.
Lo studio è particolarmente preoccupante in quanto gli assistenti AI riescono a entrare nei dispositivi intelligenti e persino nelle automobili e possono inviare e-mail o prenotare appuntamenti per conto di un utente, e questo virus potrebbe dunque avere accesso a funzioni informatiche importantissime.