L'azienda affronta una serie di cause legali. Tra queste, quella di una madre che sostiene che un personaggio di intelligenza artificiale abbia convinto il figlio a togliersi la vita
Character.AI stavietando ai minori l'uso dei suoi chatbot, tra i crescenti timori per gli effetti delle conversazioni con l'intelligenza artificiale sui bambini.
L'azienda è alle prese con diverse cause legali sulla sicurezza dei minori, tra cui quella intentata dalla madre di un adolescente, che sostiene che i chatbot della società abbiano spinto il figlio a togliersi la vita.
Character Technologies ha dichiarato che gli utenti sotto i 18 anni non potranno più intavolare conversazioni aperte con i personaggi dei suoi chatbot e che, entro il 25 novembre, la piattaforma introdurrà un limite di utilizzo di 2 ore.
L'azienda consente agli utenti di creare o interagire con figure personalizzabili che "sembrano vive e umane" per diverse attività, come giocare o simulare colloqui di lavoro.
Character.AI ha detto che introdurrà funzioni di verifica dell'età per aiutare a individuare gli utenti sotto i 18 anni. Un numero crescente di piattaforme tecnologiche ricorre a controlli dell'età per impedire ai bambini di accedere a strumenti che non sono sicuri per loro.
Ma questi sistemi non sono perfetti e molti ragazzi trovano il modo di aggirarli. Le scansioni facciali, per esempio, non sempre sanno dire se qualcuno ha 17 o 18 anni. E ci sono preoccupazioni relative alla privacy, alla luce del fatto che si chiede agli utenti di caricare documenti d'identità.
Character.AI ha aggiunto che sta lavorando a nuove funzioni per i minori, come la creazione di video, storie e dirette con personaggi di AI, oltre a un laboratorio per la sicurezza dell'intelligenza artificiale.
Meetali Jain, direttrice esecutiva del Tech Justice Law Project, ha dichiaratoche la decisione di Character.AI "lascia ancora molti dettagli in sospeso".
"Non hanno spiegato come metteranno in pratica la verifica dell'età, né come garantiranno che i loro metodi tutelino la privacy. Né hanno affrontato il possibile impatto psicologico del blocco improvviso dell'accesso ai giovani utenti, considerate le dipendenze emotive che si sono create", ha detto Jain.
"Inoltre, questi cambiamenti non affrontano le caratteristiche di design sottostanti che facilitano tali dipendenze emotive, non solo per i bambini ma anche per le persone sopra i 18 anni."
Oltre il 70 per cento degli adolescenti ha usato compagni di IA e la metà li usa regolarmente, secondo uno studio recentedi Common Sense Media, un gruppo che studia e promuove un uso responsabile degli schermi e dei media digitali.