OpenAI e Anthropic hanno dichiarato di discutere accordi su sicurezza e privacy anche con il sindacato degli insegnanti statunitensi. Google, principale fornitore di tecnologia educativa per le scuole americane, non ha invece chiarito se offrirà tutele analoghe.
Microsoft introduce nuovi paletti e nuovi standard di tutela della privacy per la sua IA nelle scuole degli Stati Uniti. Si tratta di misure concordate con il secondo sindacato degli insegnanti del Paese, sullo sfondo di un crescente contraccolpo contro l'IA e il tempo trascorso davanti agli schermi.
PUBBLICITÀ
PUBBLICITÀ
L'accordo (fonte in inglese), firmato la scorsa settimana, vieta l'uso di assistenti virtuali o di funzionalità "progettati per favorire un attaccamento o una dipendenza emotiva" o pensati per mantenere gli studenti coinvolti più a lungo di quanto richieda un compito di apprendimento.
Gli standard sono giuridicamente vincolanti e prevedono verifiche da parte di soggetti indipendenti per controllare il rispetto delle regole.
Nell'ambito del vasto accordo, Microsoft afferma che non utilizzerà i dati di studenti o insegnanti per addestrare i sistemi di IA, fatta salva una limitata eccezione per i dati che possano contribuire a proteggere gli studenti. I dati raccolti, aggiunge, non potranno essere venduti, utilizzati a fini pubblicitari né per lo sviluppo di prodotti.
L'intesa prevede inoltre misure di audit e trasparenza che obbligano l'azienda a spiegare alle famiglie, in un linguaggio semplice, come funzionano i suoi strumenti e quali dati raccolgono.
"Questo standard fissa un livello molto alto per la tutela della privacy dei minori e la sicurezza dell'IA, ed estenderemo questo accordo a tutti i distretti scolastici del Paese", ha dichiarato in una nota Brad Smith, vicepresidente e presidente di Microsoft.
Secondo l'azienda, gli standard si applicheranno a tutti i contratti scolastici di Microsoft negli Stati Uniti a partire dal 1º novembre.
Occorre mettere un freno all'IA nelle aule europee?
L'IA sta già facendo il suo ingresso nelle classi europee.
Uno studio della Commissione europea (fonte in inglese) sugli utilizzatori precoci nelle scuole secondarie in Finlandia, Germania, Irlanda, Lussemburgo e Spagna ha rilevato che gli studenti usano l'IA generativa per spiegarsi gli argomenti più difficili, esercitarsi e prepararsi agli esami.
Alcuni governi europei stanno già fissando limiti all'uso da parte degli alunni più giovani.
La Norvegia ha indicato quest'anno che i bambini tra i sei e i dodici anni non dovrebbero in generale usare personalmente l'IA generativa per i compiti scolastici, mentre quelli tra i tredici e i quindici anni possono iniziare a sperimentarla con cautela.
La Francia consente agli alunni di conoscere l'IA già dalla scuola primaria, ma ritiene che non debbano utilizzare direttamente l'IA generativa. Un uso in classe, sotto supervisione, può iniziare dai 13 o 14 anni circa.
Un documento visionato da Euronews suggerisce che la Commissione europea proporrà di vietare ai minori di 15 anni l'accesso a servizi online considerati rischiosi, come i chatbot di IA, in una proposta legislativa che sarà pubblicata giovedì.
OpenAI e Anthropic trattano per garanzie simili
Gli esperti ritengono che le clausole di sicurezza previste dall'accordo statunitense siano significative. Alcuni però avvertono che garanzie più solide non devono essere automaticamente interpretate come un via libera a un maggiore uso dell'IA nelle scuole.
"Temo che un quadro molto visibile come questo venga frainteso e che le scuole pensino: 'Se fanno un buon lavoro sulla privacy dei dati e sulla sicurezza, allora significa che dovremmo usare lo strumento'", ha affermato Josh Golin, direttore esecutivo dell'organizzazione statunitense per la sicurezza online Fairplay.
Secondo Golin, gli standard saranno efficaci solo se anche le altre grandi aziende di IA li sottoscriveranno.
"Google adotterà questo quadro? È una domanda enorme", ha detto.
Google è finita sotto tiro negli Stati Uniti dopo avere esteso ad agosto gli strumenti basati su Gemini in Google Classroom anche agli account scolastici utilizzati dagli studenti sotto i 18 anni.
I critici descrivono questa estensione come un ulteriore passo nella corsa tra i giganti tecnologici per imporre i loro prodotti di IA nelle scuole e raggiungere utenti sempre più giovani. Google afferma che Classroom è utilizzato da oltre 150 milioni di insegnanti e studenti in tutto il mondo.
Il sindacato degli insegnanti è impegnato anche in colloqui con OpenAI e Anthropic, che hanno entrambe accolto favorevolmente l'accordo con Microsoft.
OpenAI, la società che ha sviluppato ChatGPT, ha definito l'intesa "una tappa importante per la sicurezza e la tutela della privacy legate all'IA nelle scuole". L'azienda ha spiegato di lavorare da tempo con il sindacato e di aspettarsi di finalizzare un proprio accordo.
Anthropic, la società che ha creato Claude, ha affermato di sostenere gli sforzi per promuovere un uso responsabile dell'IA nell'istruzione e di essere al lavoro con il sindacato su standard di sicurezza e privacy.