Decine di scienziati hanno firmato una lettera aperta sul pericolo del proliferare di armi a intelligenza artificiale, robot costruiti per uccidere e
PUBBLICITÀ
Decine di scienziati hanno firmato una lettera aperta sul pericolo del proliferare di armi a intelligenza artificiale, robot costruiti per uccidere e che non richiedono l’intervento umano diretto.
Gli scienziati scrivono: “La questione cruciale per l’umanità oggi è se avviare oppure prevenire una corsa globale alle armi IA.
Tra i firmatari, celebrità come il fisico e matematico Stephen Hawking, il filosofo Noam Chomsky, l’imprenditore Elon Musk (fondatore di PayPal e di Tesla), Steve Wozniak (co-fondatore di Apple).
Nella lettera si mette in guardia contro armi che non richiedono l’intervento umano per uccidere: “La tecnologia dell’intelligenza artificiale ha raggiunto un livello in cui lo sviluppo di armi autonome è – di fatto anche se non legalmente – questione di anni, non decenni. E la posta in gioco è alta: le armi autonome sono state descritte come la terza rivoluzione negli armamenti, dopo la polvere da sparo e le armi nucleari”.
La lettera contiene una breve lista dei vantaggi delle armi IA (meno vittime) e un lungo elenco di conseguenze pericolose se le armi diventeranno realtà: economiche da produrre, abbasseranno la soglia psicologica degli interventi bellici e potranno facilmente essere commercializzate nel mercato nero finendo nelle mani di dittatori, terroristi, signori della guerra.
Se niente verrà fatto, “le armi autonome potranno diventare i Kalashnikov di domani”.
I firmatari della lettera, molti dei quali sono scienziati dell’IA e della robotica, non respingono il progresso scientifico. “Ci sono molti modi in cui l’IA può rendere i campi di battaglia più sicuri per gli esseri umani, soprattutto i civili, senza il bisogno di creare nuovi strumenti letali”.
Tuttavia, non tutti gli scienziati sono d’accordo. In un blog, l’esperto di robotica australiano Rodney Brooks si dice certo che l’IA è uno strumento e non una minaccia.
Brooks, che ha fondato la start-up “Rethink Robotics”, dice: “Credo che sia un errore preoccuparsi dello sviluppo di un’IA cattiva da qui alle prossime centinaia di anni.
Credo che le preoccupazioni nascano da un errore fondamentale: non distinguere la differenza tra i concreti, reali progressi in un particolare aspetto dell’IA e l’enormità e la complessità di costruire un’intelligenza cosciente e volitiva”.
Brooks non vede l’arrivo dell’apocalisse delle armi autonome: “Per avere un’IA volitiva, soprattutto una che sia di proposito cattiva, ci vorrebbe una conoscenza diretta del mondo, dovrebbe avere mani abili e/o altri strumenti capaci di manipolare le persone e dovrebbe avere una conoscenza profonda degli umani per superarli in astuzia (…) Ci vorrebbe molta riflessione e tanto duro lavoro da parte di migliaia di scienziati e ingegneri. Probabilmente, per secoli.
Brooks conclude: “Preoccuparsi che l’IA potrebbe essere intenzionalmente cattiva significa voler diffondere la paura. E un’immensa perdita di tempo. Andiamo avanti a inventare un’IA migliore e brillante”.