Secondo l’azienda di robotica Foundation Future Industries, entro il 2027 i robot umanoidi alimentati dall’IA potrebbero essere usati come armi.
Con la rapidissima diffusione dell’intelligenza artificiale e gli enormi balzi tecnologici nella robotica, le immagini di robot umanoidi armati non sono più solo frutto della fantasia collettiva.
PUBBLICITÀ
PUBBLICITÀ
Ma mentre queste tecnologie d’avanguardia avanzano a gran velocità, cresce anche un senso persistente di inquietudine.
La società statunitense Foundation Future Industries, che sviluppa umanoidi per usi commerciali e militari, ha già testato i suoi robot Phantom in Ucraina.
Il CEO dell’azienda afferma di aspettarsi l’avvio di test su possibili impieghi armati dei robot «già dal prossimo anno», dopo i programmi pilota condotti in Ucraina.
«Penso che abbiamo una reazione psicologica, ci viene in mente Terminator. Ma se ci si riflette in modo pratico, la realtà non è proprio quella», ha dichiarato a Euronews Next il CEO di Foundation, Sankaet Pathak.
«In sostanza, perché dovresti mandare una schiera di umanoidi se il tuo obiettivo è seminare distruzione?»
Il CEO ha invece precisato che, con il tempo, gli umanoidi potrebbero assumere ruoli sempre più combattenti, offrendo un livello di precisione che altri sistemi d’arma, compresi i bombardamenti aerei, non possono garantire.
A suo avviso non ha senso usare gruppi di umanoidi per causare devastazione, dato che una bomba può farlo a costi molto più bassi.
Gli umanoidi, ha spiegato, diventano davvero utili quando un obiettivo militare richiede precisione: bisogna evitare danni alle infrastrutture e vittime civili mentre si porta a termine una missione complessa.
Robot sul campo di battaglia
Pathak non si aspetta che gli umanoidi sostituiscano i droni, ma li vede come un tassello mancante, soprattutto ora che il combattimento sul terreno è sempre più pericoloso per i soldati.
«Gli umanoidi hanno senso solo quando l’obiettivo della missione è la massima precisione: fare in modo di non distruggere infrastrutture, non ferire civili e svolgere al meglio possibile una missione molto complessa», ha spiegato.
«Credo che per i soldati sia diventato sempre più rischioso operare sul terreno. Inoltre penso che questa sia la prossima fase della precisione, e che in generale sarebbe un passo positivo».
Non esiste un trattato specifico che disciplini l’uso di robot umanoidi o autonomi sul campo di battaglia. Al momento rientrano nel diritto internazionale umanitario (IHL) già esistente, che impone alle armi di rispettare la distinzione tra combattenti e civili.
La scorsa settimana il segretario generale delle Nazioni Unite, António Guterres, ha dichiarato che la sua «preoccupazione principale riguarda i sistemi d’arma autonomi letali».
«Chiamiamoli per quello che sono: robot killer», ha scritto in un post su LinkedIn. «Macchine che scelgono e ingaggiano il bersaglio e tolgono la vita senza controllo e giudizio umano», ha aggiunto.
Dal 2023 l’ONU negozia, nell’ambito della Convenzione su alcune armi convenzionali, un trattato specifico sui Lethal Autonomous Weapons Systems (LAWS, sistemi d’arma autonomi letali). Il segretario generale spinge per un divieto giuridicamente vincolante sulle armi che operano senza controllo umano entro il 2026.
Interpellato sulla questione, Pathak ha affermato di non vedere motivo per cui gli umanoidi dovrebbero essere trattati diversamente da altri sistemi d’arma di precisione già in uso, come i droni armati e i veicoli terrestri senza equipaggio.
IA sul campo di battaglia
Il robot umanoide utilizza intelligenza artificiale basata su «world models», modelli del mondo sviluppati internamente dall’azienda. La società non rende noto chi siano i suoi fornitori.
I world models funzionano imparando dall’osservazione di video, dai dati di simulazione e da altri input spaziali, per poi costruire proprie rappresentazioni di scene o oggetti.
Questi modelli richiedono naturalmente grandi quantità di dati per l’addestramento, ma hanno usi diversi rispetto ai chatbot. In termini semplici: invece di prevedere la parola successiva, come fanno i large language models (LLM), costruiscono rappresentazioni di ambienti fisici e prevedono cosa accadrà nello scenario successivo, modellando come gli oggetti si muovono nel tempo.
«Siamo molto concentrati sui world models in grado di prevedere il futuro. Pensiamo che saranno al centro della costruzione di un’IA intuitiva e robusta», ha dichiarato Pathak.
Alla domanda se l’IA possa prendere il controllo di robot armati, ritiene che una minaccia del genere non si presenterebbe sotto forma di umanoidi, ma piuttosto di droni o, peggio, di altri sistemi.
«Se l’obiettivo di una missione dell’IA fosse distruggere l’umanità, vi garantisco che non manderebbero 100.000 umanoidi. Userebbero semplicemente droni o arsenali nucleari», ha affermato.
Per lui il pericolo più immediato è il cosiddetto «terrorismo dell’IA», cioè l’uso improprio di modelli di intelligenza artificiale facilmente accessibili per cyberattacchi, disinformazione o per armare droni commerciali. Di questo fenomeno attribuisce la responsabilità ai modelli open source.
Le aziende di IA che si definiscono open source sostengono di rendere la tecnologia più accessibile a tutti. I sostenitori dei modelli chiusi avvertono però che ciò rappresenta una minaccia per la sicurezza pubblica, perché chiunque può modificare i modelli e alterare i sistemi di protezione.
Un esempio emblematico è stato quando Meta ha rilasciato nel 2023 il suo large language model (LLM) open source Llama 2.
Pochi giorni dopo sono comparse versioni non censurate di Llama 2, in grado di rispondere a domande su come costruire una bomba nucleare.
Secondo lui, uno scenario in cui i sistemi di IA siano in grado di riscrivere le proprie direttive, auto-migliorarsi e auto-replicarsi in modo indipendente da grandi e riconoscibili cluster di calcolo è ancora distante di diversi importanti passi tecnici.
«Man mano che questi modelli diventano più efficienti, che riescono ad auto-replicarsi con meno potenza di calcolo, possono migliorarsi e mostrare comportamenti tali da aggirare e aggiornare le proprie direttive. È allora che si entra in quel territorio», ha detto.
Ha però aggiunto: «Probabilmente siamo ancora a tre, quattro, forse cinque passi da quella situazione».
La strada da percorrere
Ciononostante, anche senza impugnare armi, il CEO ritiene che gli umanoidi possano avere un ruolo sul campo di battaglia. Per esempio nella movimentazione dei materiali, cioè nel trasferimento di rifornimenti tra ambienti interni ed esterni, e nelle operazioni di ricognizione, come la mappatura degli interni e la bonifica degli edifici. Questi compiti sono già stati sperimentati in Ucraina.
I test militari in Ucraina hanno spinto Foundation a riprogettare l’hardware per condizioni esterne e ad alto stress.
L’azienda sta realizzando il suo robot di nuova generazione, Phantom 2, impermeabile all’acqua e alla polvere. La capacità di carico è aumentata dai circa 25–30 chilogrammi della prima versione a circa 80 chilogrammi.
La resistenza alle cadute, misurata in forza G, è passata da 12–15 G a quasi 100 G, e il robot è dotato di una batteria da 3 kilowattora.
Tra gli investitori di Foundation figurano Eric Trump, figlio del presidente USA Donald Trump, la società di pagamenti Stripe e il fondo di venture capital Define, insieme ad altri sostenitori.
Al momento Foundation noleggia commercialmente i robot Phantom per circa 100.000 dollari (90.000 euro) l’anno per unità. I clienti militari li acquistano a prezzi simili.