Gli strumenti di IA, attuali ed emergenti, tecnicamente potrebbero essere usati per creare un'arma biologica. Secondo gli esperti, può innescare una pandemia.
All'inizio dell'anno, alcuni tra i massimi esperti mondiali di tecnologia e controterrorismo si sono riuniti per analizzare uno scenario ipotetico: una pandemia globale innescata da un nuovo ceppo di enterovirus, creato intenzionalmente da un gruppo estremista con l'intelligenza artificiale (IA).
Lo scenario può sembrare la trama di un romanzo di fantascienza, ma è del tutto plausibile nei prossimi anni, secondo il gruppo di 14 esperti che ha discusso le misure di salvaguardia dell'IA per le scienze della vita.
Gli esperti hanno giudicato la pandemia fittizia, che prevedeva 850 milioni di casi e 60 milioni di morti nel mondo, "estremamente preoccupante e meritevole di interventi a breve termine per evitarla", secondo un rapporto sulle discussioni del gruppo.
L'IA sta già rivoluzionando il settore medico, promettendo di accelerare lo sviluppo di nuovi farmaci e vaccini. Ma gli esperti temono che un'arma biologica potenziata dall'IA possa devastare l'umanità.
Il gruppo di esperti, riunito a febbraio dalla Nuclear Threat Initiative e dalla Conferenza sulla Sicurezza di Monaco, ha avvertito che la rapida evoluzione dell'IA sta "erodendo le barriere allo sviluppo di armi biologiche da parte di attori malevoli".
Secondo il gruppo, queste minacce non sono lontane nel tempo. Sarebbe tecnicamente possibile usare strumenti biologici basati sull'IA, già disponibili e in via di sviluppo, per creare nuovi patogeni con rischi a livello pandemico, hanno detto gli esperti.
Inoltre, le misure di sicurezza attuali sono gravemente impreparate ad affrontare queste minacce, ha affermato il gruppo.
Gli esperti hanno chiesto una maggiore cooperazione tra i leader globali per valutare e rispondere alle minacce biologiche legate all'IA.
Hanno anche affermato che gli sforzi per gestire i rischi dell'IA vanno bilanciati con i potenziali benefici di queste tecnologie, per "evitare di imporre restrizioni indebite" all'innovazione scientifica.