Secondo Anthropic, il suo nuovo modello di IA più potente, Mythos, è troppo pericoloso per essere reso pubblico e ha avviato consultazioni urgenti con governi e autorità di vigilanza finanziaria.
Anthropic è in discussione con il governo statunitense sul suo nuovo modello di intelligenza artificiale Mythos, che, secondo l'azienda, è troppo potente per essere messo a disposizione del pubblico perché «presenta rischi informatici senza precedenti».
PUBBLICITÀ
PUBBLICITÀ
Anche il settore bancario lancia l'allarme.
«Il governo deve essere informato su queste cose», ha dichiarato il cofondatore di Anthropic lunedì, al Semafor World Economy di Washington.
«Assolutamente, stiamo parlando con loro di Mythos e parleremo anche dei prossimi modelli», ha aggiunto.
Facendo riferimento al contenzioso pubblico con il governo, che il mese scorso ha portato a definire la società un rischio per la catena di approvvigionamento, ha detto: «Non voglio che questo offuschi il fatto che teniamo moltissimo alla sicurezza nazionale».
La classificazione come rischio per la catena di approvvigionamento è arrivata dopo il fallimento dei negoziati sugli sforzi di Anthropic per limitare le modalità con cui il Dipartimento della Difesa degli Stati Uniti può usare i suoi modelli di IA.
La mossa arriva dopo che il segretario al Tesoro Scott Bessent ha convocato a Washington una riunione con alti dirigenti delle banche statunitensi per discutere del modello Mythos la scorsa settimana.
La riunione ha incoraggiato i dirigenti bancari a usare il modello Mythos di Anthropic per individuare vulnerabilità, secondo Bloomberg (fonte in inglese).
Anthropic ha inoltre dichiarato che limiterà la diffusione del suo nuovo modello di IA ad alcune società tecnologiche e di cybersicurezza. Nell'elenco figurano Amazon, Apple e JP Morgan Chase.
Goldman Sachs, Citigroup, Bank of America e Morgan Stanley starebbero testando a loro volta il modello di Anthropic, ha riferito ancora Bloomberg.
Lunedì, l'AI Security Institute (AISI) del governo del Regno Unito ha avvertito che Mythos rappresenta un «salto di livello» rispetto ai modelli precedenti, in termini di minaccia informatica che comporta.
Nel frattempo, il Financial Times ha riferito che anche le autorità di vigilanza finanziaria britanniche stanno discutendo dei potenziali rischi di Mythos.