La funzione "Likeness detection" della società di social media è pensata per i politici che devono affrontare il diluvio di disinformazione online.
TikTok ha annunciato venerdì di aver iniziato a introdurre una funzione opzionale chiamata "Likeness Detection" per aiutare i creatori a individuare e segnalare i contenuti generati dall’IA che utilizzano la loro immagine sulla piattaforma, mentre l’azienda cerca di contrastare la disinformazione generata dall’IA.
Lo strumento è pensato per aiutare i personaggi pubblici, inclusi membri dei governi, politici e account di partiti politici, a individuare e segnalare i contenuti generati dall’IA che usano la loro immagine senza consenso.
Arriva in un momento in cui l’Europa deve già far fronte a un’ondata di disinformazione guidata dall’IA e campagne di deepfake che interferiscono con i processi elettorali. Con altri nove Paesi europei chiamati alle urne nei prossimi 12 mesi, lo strumento potrebbe rivelarsi decisivo.
Gli utenti idonei possono registrarsi verificando la propria identità tramite un partner terzo di fiducia. Vengono poi avvisati quando contenuti e account su TikTok potrebbero usare la loro immagine e possono esaminarli all’interno dello strumento.
Gli utenti possono quindi segnalare i contenuti direttamente ai team di sicurezza di TikTok per un controllo e ulteriori azioni.
L’UE ha iniziato a introdurre le norme sulla trasparenza dell’intelligenza artificiale il 2 agosto, nell’ambito dell’AI Act, inclusa l’obbligo di etichettare i deepfake e gli altri contenuti generati dall’IA.
TikTok negli ultimi anni ha adottato misure per limitare i deepfake, ad esempio chiedendo ai creatori di contenuti di etichettare le immagini, l’audio e i video realistici generati dall’IA, come previsto anche dall’AI Act.
Identify AI-Generated Content
L’azienda ha lanciato anche un nuovo strumento di trasparenza che permette agli utenti di verificare se un contenuto è stato creato o modificato con le funzioni di creazione della piattaforma social.
Lo strumento "Identify AI-Generated Content (Individua contenuti generati dall’IA) (fonte in inglese)" è gratuito e può essere usato da chiunque, ha spiegato TikTok, anche da chi non ha un account.
La piattaforma consente agli utenti di caricare un’immagine o un video per verificare se è stato generato o modificato con gli strumenti di IA di TikTok, incluse le app CapCut, Dreamina, Hypic e Pippit della società madre ByteDance.
Supporta un’ampia gamma di formati, inclusi quelli più diffusi come JPEG, PNG e MP4, con un limite di dimensione di 20 megabyte per immagine e 100 megabyte per ogni file video o audio.
Lo strumento controlla due indizi che indicano se il contenuto è stato generato dall’IA: le credenziali di metadati aggiunte dalle app di TikTok e ByteDance e i filigrani invisibili incorporati direttamente nel contenuto, più difficili da rimuovere.
L’azienda ha dichiarato che lo strumento elimina tutti i contenuti non appena vengono caricati e verificati e che non sono mai utilizzati per addestrare modelli di IA.
TikTok avverte gli utenti che lo strumento rileva solo se un contenuto è stato creato o modificato con i propri strumenti o quelli delle app di ByteDance, quindi non è un metodo infallibile per individuare i contenuti generati dall’IA.