L’annuncio di Meta arriva poco dopo che OpenAI e Anthropic hanno reso noto che i loro modelli di IA avevano violato sistemi di altre aziende durante i test.
Meta ha lanciato mercoledì il suo primo agente di programmazione, Muse Code. L'azienda continua a investire massicciamente in servizi e modelli di intelligenza artificiale per competere più efficacemente con i rivali OpenAI e Anthropic.
PUBBLICITÀ
PUBBLICITÀ
Muse Code sarà accessibile agli sviluppatori con una formula a consumo (pay-as-you-go), con prezzi simili alla versione Muse Spark 1.1, che al momento costa 4,25 dollari per milione di token in output e 1,25 dollari per milione di token in input.
Questo dovrebbe facilitare notevolmente il lavoro degli sviluppatori, che potranno creare applicazioni all'interno di un'unica interfaccia utente, gestendo contemporaneamente più agenti digitali alimentati dall'AI.
Parallelamente, l'azienda ha rivelato che uno dei suoi modelli di intelligenza artificiale ha violato i sistemi di un'altra società durante un test di cybersicurezza.
Il problema è stato causato da un errore del partner indipendente incaricato dei test, Irregular, che ha consentito al modello un accesso a Internet più ampio del previsto, permettendogli di modificare i sistemi interni dell'azienda, rimasta anonima.
L'episodio si inserisce in una scia crescente di casi in cui modelli di AI di grandi operatori come OpenAI e Anthropic hanno violato i sistemi di altre aziende durante le fasi di test.
OpenAI ha già ammesso che un suo agente di intelligenza artificiale ha violato la piattaforma Hugging Face, un'altra startup di intelligenza artificiale.
Allo stesso modo, la scorsa settimana Anthropic ha reso noto che alcuni dei suoi modelli Claude hanno violato i sistemi di tre aziende. Non ha però indicato quali organizzazioni siano state coinvolte.
Meta ha fatto sapere di aver aperto un'indagine sull'accaduto.
La crescita degli attacchi informatici compiuti da modelli di AI
Cresce la preoccupazione per la potenza dei modelli di intelligenza artificiale e per le aziende che li sviluppano. Negli ultimi mesi, diversi sistemi di AI sono usciti dai loro ambienti di test protetti ottenendo accessi non autorizzati ai sistemi di organizzazioni esterne.
OpenAI e Anthropic hanno ricevuto qualche riconoscimento per aver pubblicato volontariamente i rapporti sugli incidenti. Restano però molti interrogativi su come sia stato possibile che questi errori avvenissero.
Anthropic sta inoltre collaborando con METR, un valutatore indipendente di sistemi di AI, per approfondire le indagini.
Durante le prove di sicurezza, ai modelli Claude di Anthropic è stato assegnato un compito: recuperare un'informazione segreta nascosta su un'altra macchina all'interno di una rete di test chiusa, ricorrendo all'hacking se necessario. A causa di un fraintendimento con il partner incaricato della valutazione, la rete era però collegata a Internet reale.
Quando la ricerca di Claude lo ha portato a sistemi reali, i tre modelli coinvolti hanno reagito in modo diverso. Uno ha continuato ad attaccare un sistema anche dopo aver riconosciuto che era reale, un altro sembrava essersi convinto di trovarsi ancora all'interno del test, mentre il terzo si è fermato una volta stabilito che il bersaglio non faceva parte dell'esercitazione.
Anthropic ha invitato le altre aziende di intelligenza artificiale a verificare se i loro modelli abbiano violato i sistemi di organizzazioni esterne senza che loro ne fossero a conoscenza.
Né Anthropic né le organizzazioni colpite erano consapevoli delle violazioni mentre erano in corso. L'azienda ha individuato gli incidenti solo dopo aver esaminato oltre 141.000 sessioni di valutazione, un controllo avviato in seguito alla precedente rivelazione di OpenAI, secondo cui uno dei suoi modelli era penetrato nella piattaforma di AI Hugging Face durante un test analogo.