Nei documenti per la quotazione in Borsa, la società di IA avverte dei possibili rischi legati a sistemi sempre più autonomi, oltre alle sfide finanziarie e regolamentari.
Sistemi di intelligenza artificiale fuori controllo, attacchi informatici e il possibile uso dell’IA per sviluppare armi pericolose figurano tra i rischi che Anthropic ha comunicato agli investitori, mentre si prepara al debutto in Borsa.
PUBBLICITÀ
PUBBLICITÀ
Dei 335 pagine che illustrano i conti di Anthropic, i compensi dei dirigenti, la politica dei dividendi e altri aspetti societari, 93 pagine sono dedicate ai "fattori di rischio", ovvero a ciò che potrebbe compromettere gli investimenti dei futuri azionisti. Per confronto, i fattori di rischio elencati dal concorrente SpaceX occupano 38 pagine su oltre 250.
Queste informative sono obbligatorie nel processo di IPO e servono a dare agli investitori potenziali un quadro più chiaro dei rischi che assumono acquistando azioni della società.
Nel presentarsi agli investitori, Anthropic descrive la propria offerta pubblica iniziale come un passo verso la riduzione dei rischi che, secondo l’azienda, l’IA comporta.
"Costruire l’IA significa imbrigliare la stessa cognizione umana, e qualsiasi cosa così potente può essere usata per il male come per il bene", scrivono i fondatori in una lettera agli azionisti potenziali allegata alla documentazione di IPO. "Anthropic è un’organizzazione profondamente guidata dai valori, nata in larga misura per aiutare il mondo a cogliere i benefici dell’IA ed evitarne i pericoli".
I rischi, però, sono numerosi. Vanno da quelli più ordinari, come la possibilità di non riuscire a trattenere personale chiave o di inciampare in ostacoli normativi, fino al coinvolgimento in cyberattacchi e alla diffusione di disinformazione pericolosa.
Ecco alcuni dei rischi che Anthropic mette in evidenza:
Lo sviluppo rapidissimo della tecnologia
Anthropic segnala la possibilità che i suoi modelli evolvano così in fretta da non lasciare il tempo di introdurre misure di sicurezza adeguate, "il che potrebbe aumentare la probabilità di incidenti di sicurezza, interventi regolatori o danni reputazionali e potrebbe incidere negativamente sulla nostra attività".
A settembre, il CEO di Anthropic, Dario Amodei, ha avvertito che nel giro di sei-dodici mesi l’IA potrebbe essere in grado di coordinare sciami di agenti capaci di prendere il controllo dell’intera rete internet. L’avvertimento, e ora la decisione di Anthropic di quotarsi in Borsa, arrivano in un clima di crescente preoccupazione, dentro e fuori il settore, per sistemi sempre più potenti, in grado di risolvere problemi oltre le capacità umane ma anche di agire autonomamente per compiere azioni dannose.
Man mano che i sistemi di IA "diventano più autonomi e capaci di compiere azioni rilevanti con una minore supervisione umana", si legge nel documento depositato alla Sec, esiste il rischio che tali sistemi possano "intraprendere azioni dannose in modo autonomo e su larga scala, senza intervento umano".
"Anche se i nostri modelli non causassero tali danni, un incidente di sicurezza significativo che coinvolga qualsiasi sistema di IA di frontiera potrebbe innescare un grave danno reputazionale per l’intero settore, una reazione negativa dell’opinione pubblica e vaste risposte regolatorie che potrebbero incidere negativamente sulla nostra attività", afferma Anthropic.
Ora che i modelli di IA contribuiscono direttamente alla ricerca e sviluppo interna, esiste la possibilità che il progresso dell’IA vada "oltre la nostra capacità di valutare e proteggere i nuovi modelli", secondo la documentazione. Anche questo, si legge, potrebbe avere conseguenze negative sul business di Anthropic.
Gli attori malintenzionati potrebbero scatenare il caos
Il dossier affronta il timore che sistemi avanzati di intelligenza artificiale, se sviluppati e gestiti senza sufficienti garanzie e controlli, "pongano rischi catastrofici o esistenziali per l’umanità, soprattutto se tali sistemi fossero usati in modo improprio, replicati, trasformati in armi o lasciati operare con un alto grado di autonomia".
L’azienda spiega che subirebbe un danno se l’uso da parte di attori malintenzionati provocasse conseguenze gravi, "o se le barriere di sicurezza o le misure di protezione dei nostri modelli non riuscissero a impedirne l’uso improprio".
Anthropic descrive la prospettiva di gruppi ostili che utilizzano i modelli di IA per costruire armi chimiche o di leader autoritari che si servono della tecnologia per intensificare la repressione sui cittadini. A settembre, la società ha reso noto di aver bloccato tentativi di impiegare i suoi modelli di IA per attività malevole come cyberattacchi, sorveglianza e ricerche che avrebbero potuto favorire lo sviluppo di armi biologiche.
L’azienda potrebbe scontrarsi con limiti di potenza di calcolo
La capacità di calcolo necessaria per costruire, testare e migliorare i modelli di IA è costosa e molto richiesta. Anthropic osserva che, se non riuscisse a garantire risorse sufficienti, o se "non riuscissimo a indirizzare in modo efficace la nostra capacità di calcolo tra i vari carichi di lavoro, potremmo non essere in grado di addestrare modelli competitivi rispetto a quelli dei nostri concorrenti o di servire adeguatamente i nostri clienti".
Anthropic cita come rischio anche l’opposizione delle comunità locali ai data centre. Lo sviluppo di nuove infrastrutture "ha alimentato controversie pubbliche e un crescente scrutinio regolatorio sugli impatti ambientali, sull’uso del suolo e dell’acqua e sulla distribuzione di risorse energetiche limitate", si legge nel documento, aggiungendo che eventuali nuovi vincoli o oneri imposti dalle autorità potrebbero danneggiare la capacità dell’azienda di operare.
Inoltre, Anthropic dipende da un numero ristretto di clienti, tra cui SpaceX e Microsoft, e da pochi canali di distribuzione per una quota significativa dei ricavi. Questo significa che anche la sola decisione di un grande cliente di ridurre gli ordini o interrompere del tutto la collaborazione potrebbe, secondo l’azienda, avere ripercussioni pesanti sulle prospettive e sui conti.
Come attenuare i rischi
In un certo senso, l’elevato livello di rischio dell’IA, unito al suo enorme potenziale, è il principale argomento di vendita di Anthropic. La società ha cercato di presentarsi come un attore responsabile, puntando sulla sicurezza per attrarre clienti aziendali.
"Riteniamo che le aziende che sviluppano IA di frontiera debbano investire in sicurezza e allineamento per garantire una diffusione responsabile di questa tecnologia", si legge nel documento.
Per Brian Mulberry, chief market strategist di Zacks Investment Research, le operazioni di IPO devono illustrare "in modo molto chiaro" i rischi che corrono le persone quando investono i loro soldi in un titolo appena quotato.
"Uno degli aspetti positivi dei nostri mercati dei capitali, qui negli Stati Uniti, è il livello di trasparenza a cui bisogna attenersi: per essere una società quotata in una borsa americana è necessario delineare questi rischi in modo molto chiaro, così che le persone capiscano se vogliono partecipare mettendo a disposizione i loro risparmi guadagnati con fatica per finanziare questo tipo di operazioni", ha spiegato.