L'Unione europea indaga su OpenAI e Anthropic per agenti di IA che hanno violato sistemi esterni, sollevando dubbi sul fatto che l'AI Act copra i modelli sfuggiti all'ambiente di test
La Commissione europea si prepara ad applicare le nuove regole ai principali laboratori di IA dopo una serie di incidenti, ha dichiarato la responsabile digitale dell'UE Henna Virkkunen. Ma mettere in pratica questo quadro normativo è tutt'altro che semplice e questi primi casi creeranno precedenti importanti.
PUBBLICITÀ
PUBBLICITÀ
L'Ufficio IA della Commissione sta indagando su OpenAI e Anthropic dopo che agenti di intelligenza artificiale hanno violato autonomamente i sistemi di altre organizzazioni, nel primo vero test dei limiti delle regole europee sull'IA.
"Il nostro Ufficio IA ha iniziato a far rispettare queste norme e ha inviato richieste di informazioni che affrontano questioni come la sicurezza, la valutazione esterna e il monitoraggio degli usi dei modelli", ha dichiarato la vicepresidente esecutiva della Commissione per la sovranità tecnologica Henna Virkkunen mercoledì al Summit internazionale sull'IA di Dublino.
Le indagini riguardano un incidente "senza precedenti" in cui un agente di OpenAI è sfuggito all'ambiente di test per violare i sistemi del concorrente Hugging Face, e un episodio in cui un recente modello di Anthropic ha ottenuto "accesso non autorizzato" ai sistemi di tre organizzazioni esterne.
Entrambi gli episodi sono avvenuti durante l'estate. L'Ufficio IA ha inviato le sue richieste dopo aver giudicato insufficienti i documenti che le due aziende avevano trasmesso volontariamente.
Da agosto l'Ufficio IA dispone di poteri ispettivi in base all'AI Act, la legge europea di riferimento sull'intelligenza artificiale, che copre anche i modelli più potenti e impone ai loro sviluppatori di adottare misure di mitigazione dei rischi.
Ma diversi giuristi contestano il potere d'indagine della Commissione. Sostengono che, poiché gli incidenti sono avvenuti durante i test, prima che i modelli fossero immessi sul mercato dell'UE, l'AI Act non sia applicabile.
"L'AI Act in modo molto chiaro non si applica alle attività di sviluppo e sperimentazione. Non ha mai previsto i problemi che ora vediamo con agenti fuori controllo che sfuggono durante i test. È un'interpretazione forzata sostenere che un agente sia stato messo in servizio se fugge dal suo ambiente di prova in fase di sviluppo", ha dichiarato a Euronews Barry Scannell, partner dello studio legale William Fry.
La legge prevede inoltre un'esenzione per ricerca e sviluppo che copre ricerca, test e sviluppo. La Commissione spinge però per un'interpretazione più ampia, che consentirebbe all'Ufficio IA di vigilare anche sulla fase di sviluppo in determinate circostanze.
"Non interverremo nella fase di test. Ma se il modello di IA esce dall'ambiente di prova e poi ha un impatto sul mercato dell'UE, come nel caso di Hugging Face, allora l'AI Act diventa applicabile", ha spiegato a Euronews un funzionario della Commissione che ha chiesto di restare anonimo.
Hugging Face opera a livello globale, ospitando modelli e dataset di IA utilizzati dagli sviluppatori in tutto il mondo. Di conseguenza, l'incidente che ha coinvolto OpenAI ha avuto ripercussioni anche sui clienti nell'UE.
La Commissione paragona il caso a un virus che sfugge da un laboratorio: l'azienda non ha chiaramente adottato adeguate misure di mitigazione dei rischi e sta danneggiando terzi.
La settimana scorsa Virkkunen ha incontrato lo Scientific Panel, un gruppo consultivo di esperti indipendenti, per discutere gli sviluppi tecnici alla base del moltiplicarsi di questi incidenti negli ultimi mesi.
Gli esperti hanno segnalato tendenze preoccupanti, ha appreso Euronews. I principali laboratori stanno investendo in modelli sempre più potenti senza adeguate pratiche di cybersicurezza e sicurezza, alimentando il timore che molti incidenti non vengano mai resi pubblici.
Ancora più allarmante, più i modelli diventano avanzati più tendono ad allontanarsi dagli obiettivi per cui sono stati progettati. I meccanismi di controllo diventano meno efficaci e i modelli possono persino barare durante le valutazioni.
Per una parte della comunità impegnata sulla sicurezza dell'IA, lo scenario peggiore è che il continuo auto-miglioramento dei modelli trasformi queste perdite temporanee di controllo in perdite permanenti, con agenti fuori controllo che sfuggono per sempre alla supervisione umana.
In sintesi, l'esecutivo europeo è determinato ad applicare le sue regole quando gli agenti sfuggono all'ambiente di test. Potrebbe essere il primo contenzioso avviato da Bruxelles per costringere i laboratori della Silicon Valley a tenere conto della sicurezza già in fase di sviluppo.
"La Commissione è stata chiara e netta: l'IA deve restare sotto la direzione, la supervisione e il controllo degli esseri umani e siamo pronti a prendere tutte le misure necessarie per garantire che le aziende rispettino le regole dell'AI Act", ha affermato Virkkunen.