Anthropic afferma che il chatbot Claude ora guida oltre un quarto delle attività di ricerca e sviluppo dell’azienda, mentre cresce il timore che i sistemi di IA possano presto auto-migliorarsi più rapidamente di quanto gli esseri umani riescano a stare al passo.
Il colosso dell'intelligenza artificiale Anthropic ha dichiarato giovedì che i sistemi di IA sono sempre più in grado di progettare versioni future di se stessi, alimentando le crescenti preoccupazioni sui rischi di questa tecnologia potente.
PUBBLICITÀ
PUBBLICITÀ
Il dibattito sui rischi dell'IA si è intensificato negli ultimi mesi, spinto da vari incidenti e da avvertimenti apocalittici da parte di esperti del settore.
Anthropic ha spiegato che il suo chatbot Claude ora guida oltre un quarto delle attività di ricerca e sviluppo e collabora con il personale umano in più del 90% dei compiti.
La società ha affermato di diffondere queste informazioni per offrire al pubblico, alle terze parti e ai governi "una migliore visibilità sul ritmo di sviluppo dell'IA", mentre il mondo "valuta di rallentarne" la corsa.
L'amministratore delegato di Anthropic, Dario Amodei, ha chiesto questo mese di frenare lo sviluppo dell'IA, mentre i rapidi progressi della tecnologia alimentano i timori per la perdita di posti di lavoro e per l'impennata della domanda di energia e dell'impatto ambientale dei data center.
Sono aumentate anche le paure che gli sviluppatori di agenti di IA possano perdere il controllo delle loro creazioni, dopo che diversi modelli di Anthropic e della rivale OpenAI avrebbero di recente oltrepassato da soli gli ambienti confinati, accedendo a internet e interferendo con siti web e piattaforme.
"Modelli che accelerano il proprio sviluppo potrebbero rendere più difficile per gli esseri umani comprendere o controllare questi sistemi", ha spiegato Anthropic in un rapporto.
"È quindi importante condividere queste metriche per capire quanto il mondo sia vicino a raggiungere recursive self-improvement (un modello che costruisce in modo completamente autonomo il proprio successore)".
A agosto Claude è stato responsabile del 26% delle attività di ricerca e sviluppo di Anthropic, il che significa che può svolgere la maggior parte di un compito dall'inizio alla fine, sotto supervisione umana.
Anthropic ha precisato che Claude non è ancora in grado di operare "in modo completamente autonomo".
L'azienda ha aggiunto di avere circa 30.000 agenti di IA impegnati in attività di ricerca e ingegneria, cioè bot con il potenziale per svolgere compiti specifici.
Anthropic dovrebbe arrivare in Borsa prima di OpenAI con una IPO da record entro la fine dell'anno, nonostante le preoccupazioni sulla regolamentazione del settore.