Nel suo discorso sullo stato dell’Unione, von der Leyen ha chiesto di frenare lo sviluppo dei modelli di IA più avanzati, promettendo una cooperazione più stretta sulla sicurezza con Canada, Regno Unito e altri Paesi affini
Mercoledì la presidente della Commissione europea ha dichiarato che l’UE sosterrà gli sforzi dell’industria per rallentare lo sviluppo delle tecnologie di IA più dirompenti e collaborerà sulla sicurezza dell’IA con partner come il Canada e il Regno Unito.
PUBBLICITÀ
PUBBLICITÀ
Nel suo discorso annuale sullo stato dell’Unione al Parlamento europeo, Ursula von der Leyen ha sottolineato il potenziale dell’IA a beneficio dell’umanità, a condizione che rischi e opportunità siano bilanciati in modo adeguato.
Ha richiamato in particolare l’attenzione sui rischi crescenti posti dai cosiddetti modelli di IA di frontiera, quelli che spingono ai limiti le capacità della tecnologia.
"Man mano che i modelli di frontiera diventano più potenti, questi rischi appaiono sempre più evidenti. I modelli attualmente in sviluppo permetteranno attività di hacking a un livello che non avremmo mai ritenuto possibile. E presto finiranno nelle mani di avversari che vedono il mondo in modo molto diverso da noi", ha dichiarato.
I rischi dei modelli di frontiera
La presidente della Commissione ha richiamato alcuni episodi recenti in cui agenti di IA sono sfuggiti agli ambienti di test e hanno violato in autonomia altri sistemi, come nel caso dell’attacco che a luglio ha coinvolto OpenAI e Hugging Face.
"Gli amministratori delegati delle aziende più all’avanguardia ci dicono che è il momento di rallentare sui modelli autoricorsivi. Di procedere con cautela sulla frontiera. Se le persone che sviluppano questa tecnologia sono chiare, allora dobbiamo esserlo anche noi", ha proseguito von der Leyen.
I modelli autoricorsivi sono sistemi programmati per utilizzare i propri output per i calcoli o l'addestramento successivo, senza il controllo o l'intervento umano.
L’UE dispone già di una delle normative più complete al mondo sull’intelligenza artificiale, l’AI Act, che affida alla Commissione il controllo delle misure di mitigazione dei rischi per i modelli più avanzati.
"Faremo di più insieme ai nostri partner che condividono i nostri valori, come Canada, Regno Unito e altri. Vogliamo collaborare sulla valutazione e la verifica dei modelli, sui sistemi di allerta precoce, sulla sicurezza dell’IA e su molto altro ancora", ha aggiunto.
La presidente della Commissione ha inoltre annunciato che convocherà un confronto con i principali laboratori di IA su come le autorità pubbliche possano sostenere gli sforzi dell’industria per gestire il ritmo di sviluppo di questa tecnologia dirompente.