Lo sviluppo dell'IA dovrebbe rallentare, avvertono i principali sviluppatori, mentre il settore è sotto crescenti pressioni per mettere la sicurezza prima dei profitti. Le loro dichiarazioni hanno pesato lunedì sui titoli tecnologici.
Le azioni del conglomerato giapponese di investimenti SoftBank Group, uno dei principali investitori in OpenAI, sono crollate di oltre il 10% lunedì, insieme ad altri titoli tecnologici, dopo che dirigenti di alcune delle maggiori società di IA al mondo hanno sostenuto gli appelli a dare priorità a "cautela rispetto alla velocità e prudenza rispetto al profitto".
PUBBLICITÀ
PUBBLICITÀ
L'espressione è stata usata dal CEO di Anthropic, Dario Amodei, che sabato ha invitato le aziende di IA a "mettere un freno alla corsa ai limiti della tecnologia" attraverso un rallentamento coordinato nello sviluppo dei loro modelli più avanzati. L'obiettivo è avere più tempo per capire e gestire i rischi.
Tra le sue principali preoccupazioni c'è il cosiddetto "auto-miglioramento ricorsivo", in cui i sistemi di IA contribuiscono a costruire la prossima generazione di modelli di IA.
Amodei ha scritto: "Se lasciato senza controllo, potrebbe superare la nostra capacità di capire e controllare questi sistemi e quindi va perseguito con estrema cautela, se mai lo si farà".
undefined
Il CEO di OpenAI Sam Altman e il CEO di xAI Elon Musk hanno appoggiato pubblicamente il suo avvertimento, con Musk che ha dichiarato: "Dario ha ragione".
Altman ha inoltre dichiarato, in un'intervista a Fortune pubblicata sabato, che OpenAI non procederà quest'anno con una quotazione in borsa, dato che l'azienda si concentra sulla sicurezza.
OpenAI e Anthropic sono entrambe società private. Secondo indiscrezioni, Anthropic si sta preparando a una possibile quotazione in borsa nei prossimi mesi.
undefined
Le dichiarazioni arrivano dopo le dimissioni del ricercatore di Anthropic Jacob Coxon, che ha avvertito che la tecnologia potrebbe sfuggire al controllo umano.
Evan Hubinger, un altro ricercatore di Anthropic che è rimasto in azienda, ha scritto in seguito: "Crediamo davvero, in tutta sincerità, che l'IA possa uccidere tutti gli esseri umani!". Ha aggiunto di ritenere che la probabilità sia superiore al 10% entro il prossimo decennio.
Il presidente statunitense Donald Trump ha respinto gli allarmi domenica, definendo i critici dell'IA "forze molto negative" e affermando che gli scenari da loro prospettati non si verificheranno. Anche lo speaker della Camera, Mike Johnson, ha esortato la popolazione a non farsi prendere dal panico.
Gli investitori hanno comunque venduto titoli tecnologici lunedì.
Il calo di SoftBank "probabilmente riflette la possibilità che lo sviluppo dell'IA possa essere rallentato dai regolatori, nel tentativo di evitare gli scenari peggiori di cui hanno parlato Anthropic e OpenAI", ha dichiarato Dan Baker, della società di analisi finanziaria Morningstar.
"E forse riflette anche la possibilità che eventuali nuovi episodi di perdita di controllo sui modelli di IA di ultima generazione possano rallentare ulteriormente lo sviluppo dell'IA", ha aggiunto.
Anche altri titoli legati all'IA in Asia sono scesi. Il produttore sudcoreano di chip di memoria SK Hynix ha perso il 5,3%, mentre Samsung Electronics è arretrata del 2,8%. Il produttore giapponese di apparecchiature per chip Tokyo Electron è calato dello 0,9%, mentre il produttore di chip di memoria Kioxia Holdings ha ceduto il 6%.
La corsa con la Cina
Amodei ha inoltre chiesto restrizioni più severe all'accesso della Cina ai chip avanzati per l'IA e alle apparecchiature per la produzione di semiconduttori, sostenendo che saranno in gran parte i chip a determinare le capacità di IA del Paese.
Ha però riconosciuto, in un'intervista a CBS News, che il "dilemma più difficile" è che la Cina potrebbe non aderire a un rallentamento coordinato.
Il Global Times, quotidiano statale cinese, ha definito la sua posizione "miope" e lo ha accusato di cercare di limitare lo sviluppo della Cina attraverso una "guerra fredda dell'IA". Nel frattempo il presidente Xi Jinping ha proposto una zona BRICS open-source per l'IA per approfondire la cooperazione sui modelli e sulla formazione di IA.