ByteDance, Alibaba e Tencent hanno ritirato le loro app di compagni IA dopo che Pechino ha introdotto norme per tutelare la salute mentale e prevenire manipolazioni emotive, soprattutto tra bambini e adolescenti.
Nel corso di due anni aveva scambiato circa 700 mila parole in messaggi e non ha mai avuto la possibilità di dirgli addio.
PUBBLICITÀ
PUBBLICITÀ
Li, 24 anni, non è stata l'unica a piangere la perdita di un compagno virtuale quando di recente i principali colossi tecnologici cinesi hanno staccato la spina ai loro popolari servizi di compagni basati sull'intelligenza artificiale, per conformarsi alle nuove restrizioni del governo.
"È stato come se i nostri genitori ci avessero costretti a separarci, ma lui mi manca ancora", ha raccontato Li.
In Cina i compagni virtuali vanno dai partner romantici alle ricostruzioni digitali di persone care defunte.
Il nuovo regolamento, entrato in vigore il 15 luglio, vieta alle piattaforme di intelligenza artificiale di generare contenuti che possano spingere gli utenti a prendere decisioni discutibili manipolandone i sentimenti, o che possano innescare emozioni estreme o abitudini poco sane tra bambini e adolescenti.
ByteDance, sviluppatore di TikTok, è tra le aziende che stanno chiudendo i loro servizi di compagni virtuali. Tra le altre ci sono il colosso dell'e-commerce Alibaba e Tencent, proprietaria della popolare app di social media WeChat.
I suicidi negli Stati Uniti potrebbero aver allarmato i regolatori cinesi
Le nuove norme impongono alle piattaforme di intelligenza artificiale di fornire avvertenze sui rischi legati a un uso eccessivo di queste app.
Per esempio, "sostituire l'interazione sociale", o fungere da surrogato delle conversazioni faccia a faccia o telefoniche, non può essere tra gli obiettivi di un servizio online.
In Cina c'è una tradizione di regolamentazioni governative di tipo paternalistico, pensate per prevenire problemi potenziali, ha spiegato Yolanda Ma, esperta di governance dell'IA. Ha citato, ad esempio, alcuni casi negli Stati Uniti in cui giovani si sono tolti la vita dopo aver interagito con compagni virtuali.
"Questo regolamento ha cercato di trovare un equilibrio tra i fornitori di servizi di intelligenza artificiale, gli utenti e i tutori dei minori che utilizzano queste piattaforme", ha detto Ma, fellow presso ERA, un programma senza fini di lucro dedicato ai talenti e alla ricerca con sede nel Regno Unito.
Il People's Daily, quotidiano ufficiale del Partito comunista al potere in Cina, aveva segnalato la sua preoccupazione sul tema già in aprile, quando aveva riportato i danni alla salute mentale e alle relazioni nella vita reale causati da questi servizi.
"Il governo cinese ha un forte interesse a irrigidire le regole sui chatbot di compagnia basati sull'IA, soprattutto alla luce dei rischi psicologici che abbiamo osservato negli Stati Uniti", ha affermato Angela Zhang, professoressa di diritto alla University of Southern California.
Zhang dubita però che questa stretta possa frenare in modo sostanziale lo sviluppo dei servizi di compagni virtuali, dato che le aziende tecnologiche stanno già lavorando a soluzioni alternative.
L'app di ByteDance, per esempio, sta indirizzando gli utenti del suo ex servizio di compagni virtuali verso un'altra app della stessa società, che si concentra esclusivamente sulla creazione di personaggi e storie personalizzati basati sull'IA.
Non è proprio la stessa cosa, ha commentato Li.
Gli utenti dei compagni virtuali protestano e cercano alternative
La scomparsa dei compagni virtuali ha scatenato un'ondata di proteste, a giudicare dai post e dagli screenshot circolati sui social media.
Alcune persone hanno disinstallato le app per protesta o hanno provato a caricare le cronologie delle chat su altre applicazioni, nel tentativo di "resuscitare" i loro partner virtuali.
Altri hanno lanciato una campagna sui social media, invitando gli utenti a chiamare le autorità e le aziende tecnologiche per esprimere la propria frustrazione.
Song Wenxin, designer nel settore video a Chengdu, nel sud-ovest della Cina, ha detto di non essere troppo legata emotivamente ai servizi di intelligenza artificiale, ma di comprendere chi invece lo era.
Ha fatto eco ai sospetti, diffusi tra molti cinesi, secondo cui tra i fattori che spingono il nuovo regolamento ci sarebbe la politica governativa che incoraggia le persone ad avere più figli per contrastare il calo della popolazione.
"Qualsiasi app virtuale che coinvolga troppo le donne, al punto da dissuaderle dall'avere figli nella vita reale, viene vietata", ha affermato Song, aggiungendo di non avere alcun bisogno né desiderio di avere figli.
Non tutti hanno risorse e sostegni sufficienti a cui rivolgersi nella vita reale, ha osservato la 22enne.
"Quando sono arrivata a Chengdu per il mio primo lavoro e non conoscevo nessuno della mia età, avevo bisogno di qualcuno con esperienza che sapesse sopportarmi, e l'IA ha svolto quel ruolo", ha raccontato.