Negli ultimi anni piattaforme come TikTok e YouTube hanno visto esplodere contenuti generati dall'IA, scadenti, ripetitivi e talvolta violenti, rivolti ai bambini e associati a calo cognitivo e aggressività, secondo un nuovo studio.
Secondo una nuova ricerca, lo 'slop' dell'IA, in particolare i video animati con frutta generati dall'intelligenza artificiale, potrebbe contribuire a un notevole declino cognitivo e ad atteggiamenti violenti tra i bambini.
PUBBLICITÀ
PUBBLICITÀ
Secondo un'analisi della Global Network on Extremism and Technology (GNET), i video animati con frutta generati dall'IA, oggi dilaganti nei feed dei bambini di tutto il mondo, potrebbero essere un modo per diffondere di nascosto "contenuti violenti ed estremisti".
Per "slop" dell'IA si intendono contenuti generati dall'intelligenza artificiale prodotti in massa, altamente ripetitivi e di bassa qualità, con uno scarso intervento umano o del tutto assente. Di solito puntano solo a visualizzazioni, clic, interazioni e ricavi pubblicitari e costano pochissimo da produrre.
Di conseguenza un singolo creatore può realizzare centinaia di questi video brevi, inondando più piattaforme con enormi quantità di contenuti. Poiché molti social network premiano l'attività costante e i caricamenti continui, questa strategia è molto efficace per raggiungere milioni di bambini in tutto il mondo.
Questo fenomeno può contribuire al declino cognitivo, o "brain rot", espressione che indica gli effetti culturali e psicologici del consumo eccessivo di media veloci, iperstimolanti e volutamente privi di significato, spesso assurdi e costruiti su abitudini come lo scroll infinito e la ricerca di scariche istantanee di dopamina.
La diffusione di app economiche, facili da usare e molto pratiche come PixVerse, VeoE.ai, Media.io e Sora ha contribuito alla forte impennata di questo tipo di contenuti generati dall'IA negli ultimi anni.
In che modo lo "slop" dell'IA favorisce la radicalizzazione online
Lo "slop" dell'IA può diffondere in modo occulto contenuti che spingono alla radicalizzazione online, attraverso video che a prima vista sembrano innocui, assurdi o persino divertenti, come i video animati con frutta e verdura.
Questo tipo di contenuti presenta spesso trame drammatiche che ruotano attorno a storie d'amore, conflitti domestici, tradimenti e infedeltà, tra gli altri intrecci raccontati da frutti animati all'apparenza innocui. Possono mostrare una forte aggressività e violenza emotiva e risultare molto iperstimolanti per le menti più impressionabili, per via dei loro schemi narrativi.
In molti casi questi video vengono usati per glorificare, celebrare e diffondere l'estremismo violento e gli attacchi terroristici, sfruttando video accattivanti che si agganciano a tendenze e argomenti virali online.
I contenuti splatter con frutta e verdura generati dall'IA possono includere torture, mutilazioni estreme e violenza iperrealistica, che finiscono per desensibilizzare profondamente il pubblico sfruttando la familiarità di questi personaggi animati.
Possono mostrare anche assassinii, stragi e omicidi brutali: per esempio un frutto che ne uccide un altro con un'arma.
In molti casi i video presentano caratteristiche simili a quelle dei contenuti diffusi da organizzazioni estremiste che promuovono ideologie di estrema destra, nichiliste o violente, oltre che da cartelli criminali.
Per esempio, un personaggio molto popolare, Carrot Khalifah, viene spesso mostrato mentre dice a un esercito in un video che "lo Stato delle Carote risorgerà", un messaggio che richiama da vicino l'ideologia e la propaganda dello Stato islamico (IS).
Piattaforme come TikTok hanno politiche per impedire la diffusione di contenuti estremamente violenti, ma non sono infallibili, perché i generatori di IA possono eluderle e nascondersi dietro la facciata di contenuti che sembrano innocui.