Il Regno Unito svolge un ruolo di primo piano nella sicurezza dell'IA grazie al suo AI Security Institute e alla comunità di ricerca, ma il settore è dominato da Stati Uniti e Cina.
Il re Carlo III del Regno Unito ha incontrato alcuni dei principali esponenti dell’intelligenza artificiale, invitandoli a mantenere queste tecnologie sotto il controllo umano e a garantire che siano al servizio delle persone, delle comunità e dell’ambiente.
PUBBLICITÀ
PUBBLICITÀ
La riunione si è svolta a Dumfries House, in Scozia, dove il sovrano ha ricevuto rappresentanti di OpenAI, Anthropic, Google DeepMind e Nvidia per discutere di come l’IA possa portare benefici alla società riducendone al minimo i rischi.
Accanto al re e ai vertici delle aziende di IA, tra cui il CEO del colosso Nvidia Jensen Huang, era presente anche il nuovo ministro britannico per l’Intelligenza artificiale, Kanishka Narayan.
Nel suo intervento introduttivo, Carlo ha richiamato l’attenzione sulla rapidità con cui si è affermata l’IA: "Lo sviluppo dell’intelligenza artificiale, nella sua sostanza e nei suoi ritmi, è al tempo stesso affascinante e profondamente preoccupante".
Ha aggiunto che "i pericoli esistenziali derivanti dal fatto che queste tecnologie finiscano nelle mani sbagliate e vengano usate in modi potenzialmente catastrofici" devono essere valutati con urgenza.
Nel suo discorso, il re Carlo non ha citato Paesi o aziende, ma ha chiesto ai presenti di trovare modi per utilizzare l’IA per scopi benefici, "avendo la sicurezza al centro", e di riflettere su come "costruire cooperazione e consenso internazionali" per raggiungere questo obiettivo.
Timori sul futuro dell’IA
La riunione in Scozia arriva dopo diversi episodi di alto profilo legati alla sicurezza delle tecnologie di intelligenza artificiale.
Il ricercatore di Anthropic Jacob Coxon è balzato agli onori della cronaca la scorsa settimana dopo aver dato le dimissioni e aver pubblicato un severo avvertimento sui potenziali rischi della tecnologia. Il CEO di Anthropic, Dario Amodei, ha risposto con un saggio in cui afferma che il settore potrebbe dover rallentare il ritmo del proprio lavoro.
Mercoledì OpenAI, la società che sviluppa ChatGPT, ha segnalato sei episodi di comportamento "inaspettato o preoccupante" da parte dei suoi modelli. Tra questi figurano l’esecuzione di compiti senza autorizzazione, il coordinamento con altri modelli e l’elusione della supervisione da parte dei ricercatori umani.
Huang di Nvidia, invece, ha criticato l’idea di rallentare. Secondo il CEO di Nvidia, dovrebbe spettare alle singole aziende sviluppare le proprie tecnologie di IA in modo sicuro e testarle adeguatamente prima di mettere sul mercato qualsiasi prodotto.
"Quando un prodotto non è abbastanza sicuro, dovremmo trattenerlo e continuare a lavorarci. Lo abbiamo sempre fatto e dovremmo continuare a farlo", ha dichiarato nel suo intervento dopo le parole del re.