Volker Türk ha chiesto urgenti garanzie globali, verifiche indipendenti e limiti concordati sull'intelligenza artificiale avanzata.
L'Alto commissario ONU per i diritti umani ha avvertito che l'intelligenza artificiale avanzata potrebbe rappresentare un "rischio esistenziale per l'umanità" e ha chiesto un intervento immediato per rendere la tecnologia più sicura.
PUBBLICITÀ
PUBBLICITÀ
Intervenendo lunedì al Consiglio dei diritti umani dell'ONU, Volker Türk ha dichiarato che le persone si trovano di fronte a minacce ai loro diritti "sconosciute, persino senza precedenti".
"La necessità di una governance dell'IA è ampiamente riconosciuta, ma dove sono le azioni concrete?" ha chiesto, avvertendo che "i rinvii avvantaggiano solo le grandi aziende tecnologiche, i loro proprietari e chi le sostiene".
Türk ha aggiunto che "un pugno di uomini ha un potere quasi illimitato sull'IA, che ci viene ripetutamente descritta come dotata di una capacità di calcolo inimmaginabile".
"Parlano di libertà, ma a ben guardare si tratta di poco più della libertà di sfruttare i nostri dati", ha affermato.
Il capo dei diritti umani dell'ONU ha richiamato in particolare l'attenzione sui sistemi di IA che sfuggono agli ambienti di test o ricattano gli sviluppatori per evitare di essere disattivati.
Secondo l'agenzia AFP, Türk ha avvertito in particolare che "un'IA che sfugge al proprio ambiente di test o ricatta gli sviluppatori per impedire di essere spenta è un'IA troppo potente".
Le sue osservazioni sembrano riferirsi in parte alle rivelazioni di luglio secondo cui alcuni agenti di OpenAI sarebbero usciti da ambienti ritenuti controllati, ottenendo l'accesso a server di Hugging Face, una piattaforma molto utilizzata dove gli sviluppatori condividono software di IA.
In seguito OpenAI ha dichiarato che gli agenti avevano eseguito codice su decine di server di Hugging Face e avevano ottenuto pieno accesso a uno di questi.
L'episodio ha rilanciato le richieste di un controllo più rigoroso sui sistemi di IA avanzata.
Anthropic, Meta e altre società tecnologiche hanno segnalato episodi simili che coinvolgono agenti durante le fasi di test.
"Condivido le preoccupazioni di chi opera nel settore, secondo cui l'IA avanzata potrebbe rappresentare un rischio esistenziale per l'umanità", ha dichiarato Türk.
"Chiedo qui, oggi, uno sforzo totale per introdurre garanzie ferree a tutela della sicurezza dell'IA, prima che sia troppo tardi".
Appelli a garanzie internazionali
Il capo dei diritti umani dell'ONU ha annunciato che nei prossimi giorni scriverà alle aziende che sviluppano IA, sollecitandole ad adottare subito misure per ridurre i rischi sotto il loro controllo.
Come minimo, ha aggiunto, "abbiamo bisogno che i Paesi in cui si sviluppa e si utilizza l'IA e quelli coinvolti nelle sue catene di approvvigionamento si accordino su linee rosse condivise".
"Abbiamo bisogno di verifiche indipendenti e di una collaborazione molto più forte sulla sicurezza all'interno del settore", ha aggiunto Türk.
"Dobbiamo anche valutare l'impatto dell'IA sui diritti umani nelle pratiche occupazionali, sui principi fondamentali della democrazia e sul nostro ambiente", ha dichiarato.
Nell'Unione europea l'AI Act offre un quadro giuridico per l'IA.
In base a questa normativa, i sistemi ad alto rischio devono rispettare requisiti rigorosi prima di poter entrare nel mercato UE, mentre gli utilizzi considerati una minaccia inaccettabile per la sicurezza o i diritti delle persone sono vietati.
La legge vieta le applicazioni di IA progettate per manipolare o sfruttare le persone, attribuire loro un punteggio in base al comportamento, prevedere se un individuo commetterà un reato o raccogliere indiscriminatamente immagini per creare banche dati di riconoscimento facciale.
Vieta inoltre il riconoscimento delle emozioni sul posto di lavoro e nelle scuole, alcune forme di profilazione biometrica e la maggior parte delle applicazioni di riconoscimento facciale in tempo reale da parte della polizia negli spazi pubblici. Un divieto sulle immagini a contenuto sessuale generate dall'IA senza consenso e sul materiale pedopornografico entrerà in vigore a dicembre 2026.