Secondo la società di autenticazione Copyleaks, i truffatori utilizzano video generati dall’intelligenza artificiale di celebrità tra cui Taylor Swift e Rihanna per pubblicizzare servizi loschi su TikTok.
Le pubblicità spesso mostrano celebrità in ambienti di interviste, come tappeti rossi, podcast o talk show, e spesso manipolano filmati reali utilizzando l’intelligenza artificiale, ha affermato la società. Molti programmi di premi promozionali affermano che gli utenti possono guadagnare denaro guardando i contenuti TikTok e fornendo feedback. Il marchio ufficiale di TikTok appare in alcuni annunci, sebbene gli utenti vengano reindirizzati a servizi di terze parti che richiedono informazioni personali.
In un annuncio, il realistico avatar AI di Swift esorta gli utenti a registrarsi per una funzionalità chiamata TikTok Pay. In un altro caso, una falsa Rihanna ha detto che “basta letteralmente guardare il contenuto e formarsi la propria opinione”.
È un altro esempio di come le piattaforme social stiano lottando per tenere il passo con l’aumento dei deepfake convincenti, che stanno diventando un caos quotidiano per gli utenti. TikTok non è solo qui. I rapporti mostrano che gli utenti delle piattaforme di Meta, tra cui Instagram e Facebook, vedono ogni giorno miliardi di annunci fraudolenti e il comitato di vigilanza della società ha ammesso di avere un problema di deepfake. YouTube ha anche affermato che sta “investendo molto” nella lotta alla pubblicità fraudolenta delle celebrità.
Anche le celebrità stanno trovando nuovi modi per reagire: la scorsa settimana Swift ha depositato una nuova domanda di marchio per clip della sua voce nel tentativo di proteggersi dalle imitazioni dell’intelligenza artificiale.