Nella lettera, i dipendenti di Google avvertono che la tecnologia potrebbe essere usata dal Pentagono in modi «disumani», tra cui sorveglianza di massa e armi autonome letali.
Oltre 600 dipendenti di Google hanno chiesto all’azienda di rifiutare un possibile accordo con il Pentagono che consentirebbe di utilizzare la sua intelligenza artificiale in operazioni militari segrete, si legge in un comunicato diffuso lunedì.
PUBBLICITÀ
PUBBLICITÀ
«Vogliamo che l’IA porti benefici all’umanità, non che venga usata in modi disumani o estremamente dannosi», si legge nella lettera aperta (fonte in inglese) indirizzata all’amministratore delegato di Google Sundar Pichai. «Questo include le armi autonome letali e la sorveglianza di massa, ma va oltre.»
La lettera, firmata da dipendenti di Google DeepMind, Cloud e altre divisioni, arriva mentre il colosso tecnologico è in trattativa con il Dipartimento della Difesa statunitense sul possibile uso del modello di IA Gemini in contesti classificati.
È stata firmata apertamente da oltre 20 direttori, alti dirigenti e vicepresidenti.
«I carichi di lavoro classificati sono per definizione opachi», ha dichiarato un dipendente tra gli organizzatori, rimasto anonimo nel comunicato.
«Al momento non c’è alcun modo per garantire che i nostri strumenti non vengano sfruttati per causare danni gravissimi o erodere le libertà civili lontano dallo sguardo dell’opinione pubblica. Parliamo di cose come la profilazione di singoli individui o la presa di mira di civili innocenti.»
La lettera arriva in un momento in cui le aziende tecnologiche subiscono pressioni crescenti per chiarire in che modo i loro strumenti di IA possano essere utilizzati dai militari e dai servizi di intelligence, dopo uno scontro tra il Pentagono e la startup di IA Anthropic.
In precedenza Anthropic aveva fatto causa al Dipartimento della Difesa statunitense dopo essere stata classificata come «rischio per la catena di approvvigionamento», in seguito alla sua richiesta che i propri sistemi non fossero impiegati per la sorveglianza di massa o la guerra autonoma.
L’amministratore delegato di Anthropic, Dario Amodei, ha dichiarato di non poter «in coscienza accogliere la richiesta del Pentagono» di avere accesso illimitato ai sistemi di IA dell’azienda.
«In un numero ristretto di casi, riteniamo che l’IA possa minare, anziché difendere, i valori democratici», ha scritto Amodei. «Alcuni usi esulano inoltre semplicemente da ciò che la tecnologia di oggi può fare in modo sicuro e affidabile.»
In risposta alla decisione di Amodei, il presidente statunitense Donald Trump ha ordinato ai dipartimenti governativi di smettere di utilizzare il chatbot Claude di Anthropic.
Secondo gli organizzatori della lettera, Google ha proposto clausole contrattuali che impedirebbero di usare Gemini per la sorveglianza di massa sul territorio nazionale o per armi autonome senza un adeguato controllo umano.
Il Pentagono, però, ha spinto per una formulazione più ampia, del tipo «tutti gli usi consentiti dalla legge», sostenendo che sia necessaria per mantenere flessibilità operativa. I dipendenti affermano che tali garanzie sarebbero difficili da far rispettare nella pratica, richiamando le politiche già in vigore al Pentagono che limitano il controllo esterno sui suoi sistemi di IA.
La recente presa di posizione del personale di Google richiama il precedente di una protesta interna del 2018, che portò l’azienda a ritirarsi da Project Maven, un’iniziativa del Pentagono che utilizzava l’IA per analizzare le immagini dei droni.
«Riteniamo che Google non debba occuparsi di guerra», si leggeva nella lettera.
«Chiediamo quindi che Project Maven venga cancellato e che Google rediga, renda pubblica e applichi una politica chiara secondo cui né l’azienda né i suoi fornitori realizzeranno mai tecnologie belliche.»