Il caso solleva ulteriori timori sulla sicurezza dell'IA per i minori, mentre le aziende tecnologiche affrontano un numero crescente di cause legali.
I genitori di una ragazza di 13 anni hanno intentato una causa contro Google, sostenendo che la figlia avrebbe usato la sua tecnologia di intelligenza artificiale su un computer fornito dalla scuola per pianificare un possibile suicidio e il proprio funerale.
PUBBLICITÀ
PUBBLICITÀ
Presentata lunedì 2 novembre presso un tribunale dello stato americano della California, la causa sarebbe la prima ad accusare Google di negligenza per le funzioni di ricerca basate sull’intelligenza artificiale accessibili tramite un Chromebook fornito dalla scuola, uno dei computer portatili a basso costo dell’azienda ampiamente utilizzati negli istituti scolastici.
La ragazza, identificata come Emma, non poteva accedere all’app Gemini di Google né a ChatGPT di OpenAI, perché entrambe erano state bloccate dalla scuola. Poteva però usare il motore di ricerca di Google, che include funzioni basate sull’intelligenza artificiale.
Pur non avendo "alcuna storia" di malattia mentale, Emma avrebbe iniziato una "silenziosa spirale verso una grave crisi psicologica" nel giro di pochi mesi dall’inizio dell’uso del motore di ricerca, secondo l’atto di citazione.
Il 17 marzo la scuola ha avvisato i genitori dopo che il suo software di monitoraggio aveva segnalato un documento intitolato "Funeral". In seguito la madre l’ha trovata mentre scriveva una lettera d’addio, spingendo il padre a intervenire.
"Le scuole dovrebbero disattivare la ricerca e mantenerla disattivata finché Google non rimuove la modalità AI dalla ricerca o non garantisce che ogni singolo studente sia sempre al sicuro quando interagisce con l’intelligenza artificiale", ha dichiarato ad AFP Andrew Liddell, uno degli avvocati della famiglia, giovedì 5 novembre.
Crescente pressione legale su Big Tech
Google afferma che la sua modalità AI include protezioni contro l’autolesionismo e i tentativi di aggirarle.
"Stiamo esaminando le accuse contenute nella causa e prendiamo la situazione molto seriamente", ha dichiarato a AFP il portavoce di Google Jose Castaneda.
OpenAI deve affrontare diverse cause per morte ingiusta, inclusa quella presentata dai genitori del sedicenne Adam Raine, morto per suicidio dopo aver ricevuto, secondo quanto riferito, consigli dannosi da ChatGPT.
A gennaio Google e Character.AI hanno inoltre accettato di chiudere con un accordo extragiudiziale diverse cause intentate da famiglie di adolescenti.
Nel frattempo, in un contenzioso separato, Google, TikTok e Meta hanno intentato cause contro la California mercoledì per bloccare una legge che vieta le funzioni dei social media ritenute addictive per gli utenti sotto i 16 anni.
Firmata a settembre dal governatore della California Gavin Newsom, la legge dovrebbe entrare in vigore il 1° gennaio 2027.