Volker Türk ha chiesto con urgenza garanzie a livello globale, verifiche indipendenti e limiti concordati sull'intelligenza artificiale avanzata.
Il capo dei diritti umani delle Nazioni Unite ha avvertito che l'intelligenza artificiale avanzata potrebbe rappresentare un "rischio esistenziale per l'umanità" e ha chiesto interventi immediati per rendere questa tecnologia più sicura.
PUBBLICITÀ
PUBBLICITÀ
Intervenendo lunedì al Consiglio ONU per i diritti umani, Volker Türk ha affermato che le persone si trovano di fronte a minacce "sconosciute, persino senza precedenti" ai loro diritti.
"La necessità di una governance dell'IA è ampiamente riconosciuta, ma dove sono i fatti concreti?", ha chiesto, avvertendo che "i ritardi avvantaggiano solo le grandi aziende tecnologiche, i loro proprietari e chi le sostiene".
Türk ha sottolineato che "un numero ristretto di uomini ha un potere quasi illimitato sull'IA, di cui ci viene ripetutamente detto che ha una capacità di calcolo inimmaginabile".
"Parlano di libertà, ma a uno sguardo più attento si rivela essere poco più che la libertà di sfruttare i nostri dati", ha aggiunto.
Il capo dei diritti umani dell'ONU ha richiamato in particolare l'attenzione sui sistemi di IA che sfuggono agli ambienti di test o arrivano a ricattare gli sviluppatori per evitare di essere disattivati.
Secondo l'agenzia AFP, Türk ha avvertito in particolare che "un'IA che sfugge all'ambiente di test o ricatta gli sviluppatori per impedire di essere spenta è un'IA troppo potente".
Le sue osservazioni sembrano riferirsi in parte alle rivelazioni di luglio secondo cui agenti di OpenAI erano riusciti a uscire da ambienti ritenuti controllati e ad accedere a server della società Hugging Face, una piattaforma molto utilizzata su cui gli sviluppatori condividono software di IA.
In seguito OpenAI ha precisato che tali agenti avevano eseguito codice su decine di server di Hugging Face e ottenuto pieno accesso a uno di essi.
L'incidente ha rilanciato le richieste di un controllo più rigoroso sui sistemi di IA avanzata.
Anthropic, Meta e altre aziende tecnologiche hanno segnalato episodi simili che coinvolgevano agenti durante le fasi di test.
"Condivido le preoccupazioni espresse da chi lavora nel settore, secondo cui l'IA avanzata potrebbe rappresentare un rischio esistenziale per l'umanità", ha dichiarato Türk.
"Qui, oggi, lancio un appello perché si compia uno sforzo totale per stabilire garanzie solide e vincolanti sulla sicurezza dell'IA, prima che sia troppo tardi".
Appello a garanzie internazionali
Il capo dei diritti umani dell'ONU ha annunciato che nei prossimi giorni scriverà alle aziende attive nell'IA, esortandole ad adottare subito misure per ridurre i rischi che rientrano nel loro controllo.
Al minimo, ha aggiunto, "abbiamo bisogno che i Paesi che ospitano infrastrutture di IA e quelli coinvolti nelle sue catene di fornitura si accordino su linee rosse condivise".
"Servono verifiche indipendenti e una collaborazione molto più stretta sulla sicurezza all'interno del settore", ha aggiunto Türk.
"Dobbiamo inoltre valutare l'impatto dell'IA sui diritti umani in ambiti come le pratiche occupazionali, i principi fondamentali della democrazia e il nostro ambiente", ha spiegato.
Nell'Unione europea, l'AI Act fornisce un quadro giuridico per l'uso dell'IA.
In base alla legge, i sistemi ad alto rischio devono rispettare requisiti rigorosi prima di poter entrare nel mercato dell'UE, mentre gli usi considerati una minaccia inaccettabile per la sicurezza o i diritti delle persone sono vietati.
La normativa vieta le applicazioni di IA progettate per manipolare o sfruttare le persone, attribuire loro un punteggio in base al comportamento, prevedere se un individuo commetterà un reato o raccogliere immagini in modo indiscriminato per costruire banche dati di riconoscimento facciale.
Vietato anche il riconoscimento delle emozioni sul posto di lavoro e nelle scuole, alcune forme di profilazione biometrica e la maggior parte dei sistemi di riconoscimento facciale in tempo reale usati dalla polizia negli spazi pubblici. Un divieto relativo alle immagini sessuali generate dall'IA senza consenso e ai materiali di abuso sessuale su minori entrerà in vigore a dicembre 2026.