Conteúdos gerados por inteligência artificial (IA) tomaram o lugar das fake news tradicionais e viraram a maior ameaça digital para as eleições no Brasil. É o que diz o Comitê Gestor da Internet no Brasil (CGI.br), que lançou recentemente a segunda edição do Guia Internet, Democracia e Eleições – um estudo completo sobre o impacto do ecossistema tecnológico moderno na opinião pública nacional.
Desde as eleições de 2018, a dinâmica da internet sofreu transformações profundas. Se antes a desinformação circulava principalmente em redes sociais abertas, hoje os aplicativos fechados de mensagens diretas, como o WhatsApp, dominam esse fluxo. Além disso, a estratégia se multiplicou em diferentes plataformas de forma integrada, colocando as produções em vídeo como o principal motor desse movimento.
O grande salto tecnológico ocorre pela evolução acelerada da IA generativa. As ferramentas atuais criam textos, imagens, áudios e gravações em vídeo com extremo realismo. Esses materiais são direcionados a perfis específicos de usuários de acordo com seus hábitos, aumentando bastante a capacidade de persuasão e a chance de enganar até leitores mais atentos.
O destaque da publicação é o avanço devastador das deepfakes, técnica que permite manipular rosto, corpo e voz para simular falas de figuras públicas que jamais aconteceram na realidade. Por se apresentarem tão perfeitas, essas simulações visuais tornam o processo de checagem uma tarefa bem mais complexa para o cidadão comum no dia a dia.
Na avaliação de Renata Mielli, que atua na coordenação do CGI.br, as grandes redes virtuais viraram o principal meio pelo qual a população consome informações. Segundo ela, por conta desse forte poder de alcance diário, compreender os bastidores da tecnologia e seus algoritmos tornou-se indispensável para defender a própria transparência e a integridade do debate social.
De acordo com o guia do CGI.br, as maiores redes digitais pertencem a corporações privadas focadas em lucro. Seus sistemas internos de recomendação selecionam automaticamente aquilo que cada pessoa vai assistir no feed. Essa arquitetura do sistema prioriza postagens de alto apelo emocional, o que acaba aumentando imensamente a circulação involuntária de informações mentirosas ou distorcidas.
Outro ponto grave envolve a erosão generalizada da confiança no ambiente virtual. Quando todo conteúdo visual passa a ser encarado como potencialmente fabricado por IA, a sociedade passa a duvidar inclusive de gravações autênticas e dados oficiais. Esse fenômeno amplia a polarização política e enfraquece instituições cruciais para a estabilidade do país.
A mente humana tende a aceitar rapidamente postagens que confirmam velhos preconceitos, rejeitando fatos reais que contrariem seus gostos. Esse comportamento natural, somado ao alcance massivo de influencers sem compromisso jornalístico de apuração, cria o cenário ideal para o espalhamento de enganos. Checar a fonte antes de dar o clique de compartilhamento virou a melhor defesa individual.
Ações integradas de proteção reduzem o alcance de fraudes por IA
Para Paulo Cesar Camargo, engenheiro de software sênior, arquiteto de dados e nuvem AWS, graduado em Gestão de Sistemas de Informação e pós-graduado em Ciência de Dados e Analytics, as plataformas de redes sociais devem adotar múltiplos mecanismos de defesa.
Segundo ele, em vez de depender de um único detector infalível, os sistemas precisam avaliar metadados, marcas d’água e padrões de compartilhamento desde a ingestão do vídeo para aplicar respostas proporcionais ao risco.
“O caminho mais eficaz é adotar uma arquitetura de defesa em profundidade, em vez de depender de um único detector de conteúdo gerado por IA”, explica Camargo. “Em ambientes de altíssimo tráfego, a análise pode começar no momento da ingestão do vídeo, combinando informações de proveniência, metadados, marcas d’água quando disponíveis, fingerprinting do conteúdo, modelos de detecção e análise comportamental da forma como aquele material está sendo distribuído. Esses mecanismos podem produzir um nível de risco ou confiança para cada conteúdo, permitindo respostas proporcionais”.
Do lado dos usuários, o cenário também exige cautela extra. O especialista alerta que a recompressão efetuada por aplicativos de mensagens costuma remover rastros técnicos úteis para perícias. Como os detectores automatizados operam com probabilidades e estão sujeitos a erros, o cidadão não deve utilizá-los como prova definitiva. A apuração exige cruzar fatos em veículos de imprensa e agências de checagem.
“Hoje não existe uma ferramenta única, simples e totalmente precisa que permita ao público identificar instantaneamente se qualquer vídeo ou áudio recebido pelo WhatsApp foi produzido por inteligência artificial”, disse Camargo em entrevista ao Olhar Digital. “Um dos problemas é que aplicativos de mensagens podem recomprimir as mídias e alterar ou eliminar informações que seriam úteis para uma análise de autenticidade. Além disso, os próprios detectores de conteúdo sintético trabalham com probabilidades e podem apresentar falsos positivos e falsos negativos, principalmente quando o material passou por edição ou compressão”.
Checagem de procedência reduz o impacto de desinformação nas eleições
Com a evolução dos recursos sintéticos, a verificação do conteúdo passa a depender fortemente da identificação da origem e do histórico das mídias. Uma das apostas da indústria para essa rastreabilidade é o padrão C2PA, que insere assinaturas criptográficas em imagens e vídeos desde a sua captura.
No entanto, Camargo faz uma importante ressalva: comprovar a origem de um arquivo não garante que seu conteúdo traga uma verdade factual. A validação exige combinar esses dados criptográficos com o contexto e fontes independentes.
“Quando a geração de conteúdo sintético se torna cada vez mais convincente, a segurança precisa deixar de depender exclusivamente da análise visual e passar a considerar também a proveniência e a rastreabilidade do conteúdo. Uma das tecnologias importantes nesse cenário é o padrão C2PA, que permite associar ao conteúdo informações verificáveis sobre sua origem, autoria e histórico de modificações por meio de mecanismos criptográficos. Câmeras, softwares de edição e plataformas de publicação podem participar dessa cadeia de proveniência, permitindo verificar quais informações foram registradas e quais alterações foram realizadas por ferramentas compatíveis”, detalha o engenheiro.
Outro aspecto destacado por ele é a separação entre indícios técnicos e enquadramento legal. A tecnologia consegue detectar se há comportamento robótico ou campanhas coordenadas de disparo. Porém, a caracterização de crime eleitoral exige avaliar intenção e contexto, cabendo exclusivamente às autoridades jurídicas essa conclusão. Por essa razão, um eleitor comum que apenas repassa um conteúdo falso sem saber não deve ser colocado no mesmo patamar de quem orquestra um ataque desinformativo.
Além disso, existe uma clara diferença de ritmo entre conter um conteúdo nocivo e punir seus idealizadores. Sistemas em nuvem conseguem limitar a distribuição de uma publicação suspeita em poucos minutos em redes abertas. No entanto, quando a desinformação circula por canais privados e criptografados, identificar a autoria original requer investigações que frequentemente extrapolam o período da votação.
“Esse cenário evidencia uma diferença fundamental entre detectar, conter, atribuir autoria e responsabilizar alguém. São etapas diferentes, com tempos de resposta diferentes. Plataformas que utilizam infraestrutura escalável em nuvem, sistemas automatizados de moderação e mecanismos de análise de comportamento podem detectar sinais de conteúdo manipulado e reduzir sua distribuição em minutos ou poucas horas, especialmente em redes abertas. Também podem remover conteúdo, bloquear determinados mecanismos de amplificação e sinalizar materiais suspeitos”, conclui o especialista.
No próximo domingo (4), os eleitores brasileiros vão às urnas para votar para presidente, governador, dois senadores, deputado federal e deputado estadual ou distrital. Em um momento marcado pelo avanço de conteúdos gerados por IA, reconhecer manipulações e checar dados antes de compartilhá-los também integra as atenções exigidas no processo eleitoral.
O post Entenda como vídeos gerados por IA e deepfakes se tornaram a maior ameaça digital para as eleições no Brasil apareceu primeiro em Olhar Digital.