Il Regno Unito svolge un ruolo di primo piano nella sicurezza dell'IA grazie al suo AI Security Institute e alla comunità di ricerca, ma il settore è dominato da Stati Uniti e Cina
Re Carlo III del Regno Unito ha riunito in Scozia alcuni dei protagonisti mondiali dell’intelligenza artificiale, chiedendo che lo sviluppo di queste tecnologie resti sotto il controllo umano e che l’IA venga utilizzata a beneficio delle persone, delle comunità e dell’ambiente.
PUBBLICITÀ
PUBBLICITÀ
L’incontro si è svolto a Dumfries House, residenza storica nel sud-ovest della Scozia, dove il sovrano ha ricevuto rappresentanti di OpenAI, Anthropic, Google DeepMind e Nvidia per discutere delle opportunità offerte dall’intelligenza artificiale e dei rischi legati al suo sviluppo.
Al tavolo con Carlo III e i vertici delle aziende tecnologiche, tra cui il CEO di Nvidia Jensen Huang, c’era anche Kanishka Narayan, il nuovo ministro britannico per l’Intelligenza artificiale.
Nel suo intervento di apertura, il re ha sottolineato la velocità con cui l’IA sta trasformando la società, definendone lo sviluppo "affascinante e profondamente preoccupante" sia per la sua portata sia per la rapidità con cui sta avvenendo.
Carlo III ha quindi richiamato l’attenzione sui rischi legati a un uso incontrollato della tecnologia, sottolineando la necessità di valutare con urgenza "i pericoli esistenziali derivanti dal fatto che queste tecnologie finiscano nelle mani sbagliate e vengano usate in modi potenzialmente catastrofici".
Nel suo discorso, il re Carlo non ha citato Paesi o aziende, ma ha chiesto ai presenti di trovare modi per utilizzare l’IA per scopi benefici, "avendo la sicurezza al centro", e di riflettere su come "costruire cooperazione e consenso internazionali" per raggiungere questo obiettivo.
Timori sul futuro dell’IA
La riunione in Scozia arriva dopo diversi episodi di alto profilo legati alla sicurezza delle tecnologie di intelligenza artificiale.
Il ricercatore di Anthropic Jacob Coxon è balzato agli onori della cronaca la scorsa settimana dopo aver dato le dimissioni e aver pubblicato un severo avvertimento sui potenziali rischi della tecnologia. Il CEO di Anthropic, Dario Amodei, ha risposto con un saggio in cui afferma che il settore potrebbe dover rallentare il ritmo del proprio lavoro.
Mercoledì OpenAI, la società che sviluppa ChatGPT, ha segnalato sei episodi di comportamento "inaspettato o preoccupante" da parte dei suoi modelli. Tra questi figurano l’esecuzione di compiti senza autorizzazione, il coordinamento con altri modelli e l’elusione della supervisione da parte dei ricercatori umani.
Huang di Nvidia, invece, ha criticato l’idea di rallentare. Secondo il CEO di Nvidia, dovrebbe spettare alle singole aziende sviluppare le proprie tecnologie di IA in modo sicuro e testarle adeguatamente prima di mettere sul mercato qualsiasi prodotto.
"Quando un prodotto non è abbastanza sicuro, dovremmo trattenerlo e continuare a lavorarci. Lo abbiamo sempre fatto e dovremmo continuare a farlo", ha dichiarato nel suo intervento dopo le parole del re.