TikTok: plataforma é invadida por fake news com falsos áudios de celebridades

O combate a fake news se deparou com mais um obstáculo: a inteligência artificial IA, capaz de reproduzir de forma idêntica a voz de um humano. Com as eleições de 2024 se aproximando, especialistas têm demonstrado preocupação com o excesso de desinformação difundido pelos meios digitais com o uso da ferramenta. 

Para se ter uma ideia, em um vídeo que circula no TikTok produzido com o uso de inteligência artificial, o ex-presidente Barack Obama, se defende de uma nova e explosiva teoria da conspiração sobre a morte repentina de seu ex-chefe de cozinha.

“Embora eu não consiga compreender a base das alegações feitas contra mim, peço a todos que se lembrem da importância da união, da compreensão e de não se precipitar em julgamentos”, diz a voz. 

A voz, no entanto, não era a do ex-presidente. Era uma falsificação convincente, gerada por inteligência artificial usando novas ferramentas sofisticadas que podem clonar vozes reais para criar fantoches de IA com apenas alguns cliques. 

Novas tecnologias

A tecnologia usada para criar vozes de IA ganhou força e amplo alcance desde que empresas como a ElevenLabs lançaram uma série de novas ferramentas no fim do ano passado. O áudio falso, inclusive, se soma às ameaças geradas por IA de vídeos deepfake, escrita semelhante à humana do ChatGPT e imagens de serviços como o Midjourney, gerador de imagens.

Pessoas e empresas que monitoram a propagação de fake news notaram que o número de vídeos contendo vozes geradas por IA aumentou à medida que os produtores de conteúdo e os vendedores de desinformação adotaram essas novas ferramentas. 

As plataformas sociais, incluindo o TikTok, estão se esforçando para sinalizar e rotular esse conteúdo. O vídeo com a suposta voz de Obama foi descoberto pela NewsGuard, uma empresa que monitora a desinformação on-line. 

Ele foi publicado por uma das 17 contas do TikTok que promovem afirmações infundadas com áudio falso que a empresa identificou, de acordo com um relatório divulgado pelo grupo em setembro. 

A maioria das contas publicou vídeos sobre rumores de celebridades usando a narração de uma voz de IA, mas também promoveu a informação inverídica de que Obama é gay, além da teoria da conspiração de que a apresentadora americana Oprah Winfrey está envolvida no comércio de escravos. Os canais receberam, em conjunto, centenas de milhões de visualizações e comentários que sugeriam que alguns espectadores acreditavam em tais alegações.