Ao menos três estados já identificaram suposta adulteração de áudios com IA na pré-campanha eleitoral
Júnior Kamenach
14 janeiro 2024 às 11h16
COMPARTILHAR
A temporada de desinformação eleitoral já teve início no país, apresentando uma nova modalidade de conteúdo ainda mais desafiadora de ser identificada. Em pelo menos três estados – Amazonas, Rio Grande do Sul e Sergipe – as autoridades policiais estão investigando suspeitas do uso de inteligência artificial (IA) para criar áudios falsos envolvendo prefeitos que planejam buscar a reeleição e um deputado federal associado à pré-campanha da esposa, atual chefe do executivo municipal, também em busca da recondução ao cargo.
Essa técnica de manipulação de sons e vídeos, conhecida como “deepfake”, permite a recriação artificial do tom, timbre e até do estilo de fala de uma pessoa. Dessa forma, ao receber uma gravação pelo WhatsApp, o eleitor pode reconhecer a voz do candidato e acreditar que o político disse algo que, na realidade, não disse.
Um dos incidentes identificados ocorreu em Manaus, onde o prefeito David Almeida (Avante) comunicou à Polícia Federal (PF) que foi alvo de um deepfake no final do ano passado. No áudio atribuído a ele, a voz do político, emulada por inteligência artificial, refere-se aos professores da rede municipal de ensino como “vagabundos” e alega que os servidores “querem um dinheirinho de mão beijada”.
A PF está tratando esse caso como um tipo de experimento, visualizando suspeitas de crime eleitoral, e por isso, assumiu as investigações. A intenção é utilizar esse caso como modelo para possíveis apurações futuras relacionadas às eleições municipais deste ano. Desde a instauração do inquérito em 22 de dezembro, dois suspeitos já foram interrogados, e uma perícia no arquivo digital confirmou a manipulação no áudio.
David Almeida (Avante) — Prefeito de Manaus
“O que mais tem é professor vagabundo que quer o dinheirinho de mão beijada. Eu não paguei o Fundeb, mas o povo esquece, tu vai ver”.
O áudio manipulado foi divulgado durante um protesto de profissionais que reivindicavam o pagamento de abono proveniente de sobras do Fundeb. Almeida afirma que o áudio é falso e tem o propósito de criar descontentamento com a categoria em ano eleitoral.
Marco Aurélio Nedel (PL) — Prefeito de Crissiumal (RS)
“Vou falar do aumento ano que vem (2024) (…) Depois vamos levando na conversa, entendeu? Pessoal com pouco estudo, analfabeto, já ganha demais.”
No áudio, o prefeito supostamente profere insultos contra funcionários do parque de obras, um espaço da prefeitura, e ridiculariza servidores. O prefeito alega que o incidente representa uma tentativa de retaliação da oposição na cidade e tem como alvo o processo eleitoral deste ano, no qual ele concorrerá à reeleição.
Gustinho Ribeiro (Republicanos) — Deputado federal e marido da prefeita de Lagarto (SE), Hilda Ribeiro
“Pode arrochar, bote pra f…, eles lá não têm poder nenhum, quem está no poder somos nós”
O parlamentar menciona ter sido alvo de uma montagem por inteligência artificial na gravação em que a voz atribuída a ele critica adversários políticos. Rubeiro denunciou o caso às autoridades para investigação.
Soluções
A aceleração da tramitação do tema é necessária tanto na Câmara quanto no Senado, embora ainda não tenha ocorrido uma discussão entre as duas Casas para determinar qual projeto receberá prioridade. O presidente da Câmara, Arthur Lira (pP-AL), planeja avançar com o assunto imediatamente após o recesso, destacando a visão de que cabe ao Congresso a responsabilidade de regular, considerando desfavorável a edição de regras pelo TSE.
O TSE planeja realizar audiências públicas neste mês para criar uma resolução que proíba a manipulação de voz e imagens contendo conteúdo falso, inclusive prevendo a possibilidade de cassação de mandato. Conforme a minuta, a responsabilidade de retirar o conteúdo do ar recairá sobre as plataformas, e o uso de IA, sem a intenção de gerar desinformação, também exigirá rotulagem.
O Ministério da Justiça e Segurança Pública está acompanhando e analisando as medidas em tramitação no Congresso e no TSE. Estela Aranha, secretária de Direitos Digitais, atualmente encarregada da gestão, reuniu-se recentemente com representantes de empresas de software para discutir o assunto.
Deepfake
Em pesquisas locais, Almeida lidera a corrida pela reeleição, competindo principalmente com Coronel Menezes (PL), apoiado pelo ex-presidente Jair Bolsonaro, e o deputado federal Amom Mandel (Cidadania).
“Não existe anonimato na internet e você pode ser responsabilizado. Esse caso deve servir de parâmetro para o restante do Brasil”, afirmou o prefeito de Manaus.
Sem uma regulamentação, alguns casos são tratados como difamação, considerados crimes de menor potencial ofensivo e sem repercussões eleitorais. Isso foi evidenciado na denúncia feita pelo prefeito de Crissiumal (RS), Marco Aurélio Nedel (PL), que alegou ter sido vítima de deepfake no ano passado. No entanto, com a falta de regulamentação, a investigação da Polícia Civil constatou que o conteúdo foi compartilhado entre vereadores.
“Achei que estava ficando famoso, só conhecia o caso de vídeo (feito por inteligência artificial) com (Barack) Obama (ex-presidente dos Estados Unidos). Acho que vem coisa muito pior pela frente. Por isso, é bom colocar o freio logo agora”, disse o prefeito da cidade gaúcha.
Em Lagarto, interior de Sergipe, o deputado federal Gustinho Ribeiro (Republicanos-SE) denunciou ter sido vítima de manipulação por IA. Sua esposa, Hilda Ribeiro (Solidariedade), concorre a mais um mandato como prefeita, sendo Lagarto a quarta maior cidade do estado.
Na gravação, a voz associada a Gustinho utiliza linguagem ofensiva ao referir-se aos adversários políticos. O deputado, que presidiu a CPI das Americanas, também afirma ter denunciado o incidente à polícia. “Criminosos montaram um vídeo com minha imagem e um áudio fake, criado por inteligência artificial”, afirmou, em nota.
A preocupação em relação a esse tema não se restringe apenas aos pré-candidatos. O presidente do Tribunal Superior Eleitoral, ministro Alexandre de Moraes, destacou a urgência na regulamentação do uso de inteligência artificial no país, indicando que políticos flagrados utilizando a tecnologia de maneira irregular poderão enfrentar cassação.
O TSE agendou uma audiência pública para o próximo dia 25, com o objetivo de discutir uma resolução que regulamente a abordagem desse tema nas campanhas eleitorais. A proposta da Corte é proibir qualquer manipulação de voz e imagens com conteúdo falso. Conforme o esboço do tribunal, as plataformas de redes sociais serão responsáveis por excluir vídeos e áudios após notificação sobre informações comprovadamente falsas.
“Esse movimento cibernético, de redes sociais, vai exigir de nós, congressistas, que algumas modificações aconteçam, para que a Constituição também abrace, acolha, proteja, os direitos individuais de uma vida que muda muito”, disse Lira em entrevista no fim do ano passado.
Por outro lado, o presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou em maio um projeto de lei que estabelece diretrizes gerais para o desenvolvimento, implementação e uso de sistemas de IA no Brasil.
Leia também:
