Il rapporto sulla moderazione dei contenuti online dell'Agenzia per i diritti fondamentali dell'Unione europea mostra che c'è bisogno di maggiore chiarezza su quali sono e come vengono applicati i criteri per fermare i discorsi che incitano all'odio sui social network
PUBBLICITÀIl controllo e la moderazione dei social network sono essenziali per identificare e arginare i discorsi di odio che proliferano su Internet contro le donne, i migranti o gruppi religiosi. A sostenerlo è un nuovo rapporto dell'Agenzia dell'Unione europea per i diritti fondamentali(Fra).
Lo studio si concentra su Bulgaria, Germania, Italia e Svezia. Non avendo accesso ai dati di Facebook e Instagram lo studio analizza i contenuti pubblicati su X, prima noto come Twitter, Telegram, Youtube e Reddit.
Dei 1.500 post analizzati più della metà sono stati considerati discorsi d'odio.
Le donne sono il principale bersaglio dell'odio online in tutti i Paesi analizzati. Il più delle volte i post contro misogini includono un linguaggio denigratorio che paragona le persone a oggetti o animali. Quasi la metà di tutti i messaggi d'odio sono stati classificati come molestie dirette, e violenza soprattutto a sfondo sessuale.
Una buona parte di questi messaggi diffonde sentimenti violenti e stereotipi negativi anche contro le persone di origine africana, gli ebrei e i rom. I messaggi d'odio sono aumentati nelle ultime settimane, soprattutto i post di stampo antisemita o islamofobo. Un'impennata che sembra essere diretta conseguenza della guerra in Medio Oriente.
Serve trasparenza nelle pratiche di moderazione
La mancanza di trasparenza nella moderazione dei contenuti da parte dei social network è tra le cause principali della diffusione di questi messaggi. E secondo l'Agenzia per i diritti fondamentali dell'Unione europea serve un controllo indipendente da parte delle autorità competenti per prevenire possibili violazioni.
Le piattaforme social sono refrattarie nel fornire dati interni per una serie di ragioni, tra cui tenere riservati i modelli di business, la privacy e il timore di rivelare potenziali difetti nelle pratiche di moderazione.
Anche se le aziende hanno diritto alla riservatezza, secondo la Fra gli utenti e le autorità regolatorie hanno diritto di conoscere le pratiche di moderazione, specialmente se possono mettere a rischio i diritti fondamentali.
Si sospetta infatti che alcuni algoritmi non trasparenti favoriscano la promozione dell'odio online per profitto. Un modello di business che risulterebbe in chiaro contrasto con la tutela dei diritti fondamentali.