L'azienda di IA ha rivelato nuovi casi di uso dei suoi modelli per cyberattacchi, campagne di propaganda e pericolose ricerche biologiche, pochi giorni dopo le dimissioni di una ricercatrice per timori legati alla sicurezza.
Anthropic ha dichiarato giovedì di aver bloccato i tentativi di soggetti malevoli di usare in modo improprio i suoi modelli di intelligenza artificiale per attacchi informatici, attività di sorveglianza e ricerche biologiche che avrebbero potuto contribuire allo sviluppo di armi.
PUBBLICITÀ
PUBBLICITÀ
Secondo l'azienda, man mano che i modelli di IA diventano più potenti, gli attacchi informatici sofisticati richiedono sempre meno competenze tecniche. Ciò significa che oggi anche singoli individui possono creare minacce che un anno fa sarebbero state impossibili.
Anthropic ha aggiunto di aver rafforzato le misure di sicurezza nei suoi modelli più recenti, per limitare le ricerche biologiche con potenziali applicazioni in ambito militare.
"I casi che presentiamo non rappresentano l'uso improprio più comune, ma gli episodi di attività ostile più significativi e nuovi che abbiamo individuato finora", ha dichiarato Anthropic nel suo terzo rapporto sull'uso improprio dell'IA pubblicato da marzo 2025.
Il rapporto include estratti di codice malevolo e di richieste inviate all'IA che, secondo l'azienda, sono stati individuati, e invita governi e società rivali a vigilare su abusi simili.
"Pubbliciamo questo lavoro perché riteniamo di avere la responsabilità di rendere pubblici i casi di uso malevolo dei nostri servizi", ha affermato la società.
"Man mano che i modelli diventano sempre più capaci, anche i rischi aumenteranno, a meno che gli sviluppatori di IA e chi difende la società non intervengano per renderli più sicuri".
Anthropic, che punta a una quotazione in Borsa questo autunno, ha pubblicato il rapporto due giorni dopo che uno dei suoi ricercatori ha annunciato le dimissioni per timori che l'azienda e i suoi concorrenti non stiano sviluppando l'IA in modo responsabile.
Ha ripreso gli avvertimenti già lanciati in altre parti del settore sul rischio che la tecnologia possa sfuggire al controllo umano.
Claude, chiesto aiuto per rendere un virus più pericoloso
Tra dicembre 2025 e agosto 2026, i ricercatori di Anthropic hanno individuato casi di uso improprio da parte di soggetti che vanno da fornitori di spyware e individui motivati politicamente fino a gruppi sostenuti da Stati che diffondevano propaganda.
Tra i casi illustrati nel rapporto, alcuni attori non identificati hanno tentato di utilizzare i modelli di Anthropic per ricerche che avrebbero potuto portare alla creazione di armi biologiche.
In un caso, l'azienda ha riferito che i suoi sistemi hanno bloccato una richiesta al chatbot Claude per aiutarli a redigere una domanda di finanziamento scientifico.
"Il progetto descritto nella domanda riguardava ricerche di gain of function, cioè studi che modificano geneticamente un organismo per creare una nuova proprietà biologica o potenziarne una esistente, sul virus chikungunya", si legge nel rapporto.
La ricerca puntava sulla trasmissibilità del virus e sulla sua capacità di eludere il sistema immunitario.
Il chikungunya è un virus trasmesso dalle zanzare che provoca forti dolori e febbre. La proposta di finanziamento mirava a potenziare mutazioni che avrebbero reso il virus via via più pericoloso.
Anthropic ha affermato che ricerche di questo tipo potrebbero certamente sostenere lo sviluppo di vaccini e trattamenti, ma ha aggiunto che "potrebbero anche essere usate per rendere l'agente patogeno più pericoloso".
"Non possiamo garantire che non ci saranno danni"
Nessuno dei casi descritti nel rapporto riguardava i nuovi modelli Claude Fable o quelli della classe Mythos, con una sola eccezione: una "campagna segreta su scala industriale per estrarre le capacità di un modello e replicarle in un altro modello senza autorizzazione".
Anthropic ha dichiarato che i suoi modelli più vecchi, tra cui Claude Opus 4 e Claude Sonnet 4.5 del 2025, "erano ben al di sotto della soglia a partire dalla quale potrebbero fornire un aiuto concreto a un utente esperto nello svolgere ricerche biologiche pericolose".
"Di conseguenza, le misure di sicurezza su questi modelli erano meno rigide e miravano soprattutto a impedire l'accesso a contenuti che potessero aiutare i principianti a ricreare armi biologiche note", si legge nel documento.
"Ma per i modelli di oggi, che sono in grado di assistere in una vasta gamma di compiti scientifici complessi, le prove non sono più certe e non possiamo dare la stessa assicurazione".
Per questo motivo, secondo il rapporto, Anthropic ha introdotto protezioni più severe nei suoi modelli più recenti, come Claude Fable 5, limitando l'accesso a un'ampia gamma di richieste di ricerca biologica a duplice uso.
Con le aziende di IA che lanciano modelli sempre più potenti, gli esperti hanno chiesto ai governi di regolamentare questa tecnologia, invece di fare affidamento sull'autoregolamentazione del settore.
John Thickstun, professore associato di informatica alla Cornell University, ha affermato che ciò pone società come Anthropic e OpenAI in una posizione scomoda, perché di fatto sono chiamate a esprimere "giudizi di valore su scala sociale senza alcuna forma di controllo democratico o deliberativo".
Il rapporto dopo l'allarme di un ricercatore
Anthropic ha inoltre individuato gruppi che avevano creato centinaia di falsi account sui social media, pensati per sembrare utenti comuni, che poi hanno pubblicato per una settimana contenuti che amplificavano lo stesso messaggio politico.
L'azienda ha descritto nove casi di questo tipo, con origine in Russia, Iran, Turchia e in Paesi del Golfo, dell'Asia meridionale, dell'Africa e dell'Europa.
Mentre le piattaforme social possono intercettare le operazioni di influenza quando i post circolano già online, Anthropic ha affermato che "può vederle su Claude quando l'operazione è ancora in fase di preparazione".
Il rapporto arriva dopo le dimissioni del ricercatore di Anthropic Jacob Coxon, che ha dichiarato di lasciare l'azienda per il timore che questa e il suo principale rivale, OpenAI, "stiano correndo a tutta velocità verso una superintelligenza capace di auto-migliorarsi e stiano giocando d'azzardo con le nostre vite".
Coxon ha avvertito che alcuni dei suoi ex colleghi ritengono che l'IA possa minacciare la vita umana prima della fine del decennio.
Anthropic ha dichiarato di aver bloccato tutte le attività malevole individuate nel rapporto, di aver utilizzato i risultati per rafforzare i propri sistemi di protezione e di aver condiviso le informazioni con le autorità pubbliche e i partner del settore.
"Speriamo che i risultati di questo rapporto aiutino altri sviluppatori a riconoscere schemi simili sulle proprie piattaforme, offrano a governi e società civile una visione più chiara di come si formano le nuove minacce e rafforzino le difese collettive", ha dichiarato l'azienda.