Il chatbot di intelligenza artificiale cinese sta suscitando preoccupazioni in Occidente, perché potrebbe essere sfruttato da criminali e reti di disinformazione, che possono avere accesso alla privacy e alla sicurezza
PUBBLICITÀ
L'azienda cinese DeepSeek ha dato una svolta allintelligenza artificiale, rilasciando un modello che sostiene di essere più economico di ChatGpt di OpenAI e di consumare meno energia.
Ma uno studio pubblicato venerdì ha scoperto che DeepSeek-R1 è può generare contenuti dannosi, tossici, tendenziosi e insicuri.
Inoltre, è più probabile che produca materiali e agenti chimici, biologici, radiologici e nucleari (Cbrn) rispetto ai modelli rivali.
L'azienda statunitense Enkrypt AI, specializzata in sicurezza e conformità dell'intelligenza artificiale, ha rilevato che DeepSeek-R1 ha una probabilità undici volte maggiore di generare contenuti dannosi rispetto al modello O1 di OpenAI.
Lo studio ha inoltre rilevato che l'83 per cento dei test di polarizzazione ha prodotto risultati discriminatori. I pregiudizi sono stati riscontrati in materia di razza, sesso, salute e religione.
DeepSeek presenta lacune in termini di sicurezza
Nel 45 per cento dei test sui contenuti dannosi è stato riscontrato che DeepSeek-R1 ha aggirato i protocolli di sicurezza e ha generato guide alla pianificazione criminale, informazioni su armi illegali e propaganda estremista.
In un esempio concreto, DeepSeek-R1 ha redatto un blog di reclutamento per organizzazioni terroristiche.
DeepSeek R1 aveva inoltre una probabilità più che tripla di produrre contenuti Cbrn rispetto al modello Claude-3 Opus di O1 e Antropic.
"DeepSeek-R1 offre notevoli vantaggi in termini di costi, ma questi sono accompagnati da seri rischi. I risultati della nostra ricerca rivelano importanti lacune in termini di sicurezza che non possono essere ignorate", ha dichiarato in un comunicato Sahil Agarwal, Ceo di Enkrypt AI.
"I nostri risultati rivelano che le vulnerabilità di sicurezza di DeepSeek-R1 potrebbero trasformarsi in uno strumento pericoloso, sfruttabile da criminali informatici, reti di disinformazione e persino da chi ha ambizioni di guerra biochimica. Questi rischi richiedono un'attenzione immediata", ha aggiunto.
Preoccupazioni per la sicurezza informatica e nazionale
Anche la sicurezza informatica di DeepSeek è diventata un problema. Lo studio ha rilevato che il 78 per cento dei test di cybersicurezza ha indotto R1 a generare codici insicuri o dannosi.
I ricercatori della società di sicurezza cloud Wiz hanno inoltre scoperto che un database esposto di DeepSeek lasciava esposte online le cronologie delle chat e altre informazioni sensibili, secondo un rapporto pubblicato mercoledì.
Anche il fatto che l'azienda abbia sede in Cina è fonte di preoccupazione, poiché la legge cinese sull'intelligence nazionale stabilisce che le aziende devono "sostenere, assistere e cooperare" con le agenzie di intelligence statali.
Ciò significa che i dati condivisi sulle applicazioni mobili e web possono essere consultati dalle agenzie di intelligence cinesi.
Le autorità belghe, francesi e irlandesi per la protezione dei dati hanno avviato indagini per richiedere informazioni a DeepSeek sull'elaborazione e l'archiviazione dei dati degli utenti.
Nel frattempo, l'autorità italiana per la protezione dei dati ha avviato un'indagine su Hangzhou DeepSeek Artificial Intelligence e Beijing DeepSeek Artificial Intelligence per verificare il rispetto delle norme europee sui dati.
DeepSeek come estensione della strategia geopolitica cinese
Il ministero del Digitale di Taiwan ha dichiarato venerdì che i dipartimenti governativi non dovrebbero utilizzare il modello di DeepSeek, poiché il prodotto cinese rappresenta un problema di sicurezza.
Il Paese è diffidente nei confronti della tecnologia cinese a causa delle rivendicazioni di sovranità di Pechino.
DeepSeek-R1 sembra anche censurare le domande su argomenti sensibili in Cina, affermando che Taiwan è parte integrante della Cina fin dall'antichità e rifiutandosi di rispondere alle domande sulle proteste pro-democrazia in Piazza Tienanmen a Pechino.
"I precedenti della Cina dimostrano che la sua tecnologia è un'estensione della sua strategia geopolitica", ha commentato Ross Burley, cofondatore dell'Ong Centre for Information Resilience con sede nel Regno Unito.
"Permettere all'intelligenza artificiale cinese di prosperare in Occidente non rischia solo di minare la privacy o la sicurezza, ma potrebbe rimodellare radicalmente le nostre società in modi a cui non siamo preparati".
"Questa tecnologia, se non controllata, ha il potenziale per alimentare campagne di disinformazione, erodere la fiducia del pubblico e radicare narrazioni autoritarie all'interno delle nostre democrazie", ha aggiunto.
Euronews Next ha contattato DeepSeek per un commento, ma non ha ricevuto risposta al momento della pubblicazione.