deepfake

Auto Added by WPeMatico

big techs 1024x617

Big techs reforçam combate a conteúdos falsos gerados por IA nas eleições dos EUA

Deixe um comentário / Anthropic, deepfake, fake, Google, inteligência artificial, Meta, openai /

OpenAI, Anthropic, Google e Meta reforçaram suas estratégias para impedir que ferramentas de inteligência artificial (IA) sejam usadas para manipular as eleições legislativas dos Estados Unidos, que estão sendo realizadas nesta terça-feira (3). As empresas montaram equipes especializadas para monitorar atividades suspeitas e tentar conter campanhas de desinformação capazes de comprometer a confiança no processo democrático.

Na OpenAI, mais de uma dúzia de funcionários trabalha em uma central de operações instalada em escritório da companhia em São Francisco (EUA). A estrutura representa ampliação significativa dos esforços adotados pela empresa durante a eleição presidencial de 2024, quando os recursos de IA eram menos avançados e o ChatGPT tinha apenas um quinto da base de um bilhão de usuários que possui atualmente.

“Em 2024, a tecnologia mais acessível era o texto. Agora, não estamos monitorando apenas textos”, afirmou Josh Lawson, responsável pela área de riscos cívicos e estratégicos da OpenAI e líder da operação, ao The New York Times.

O cenário atual inclui ameaças que vão de vídeos deepfake e ataques cibernéticos a operações de influência estrangeira e doméstica. Com ferramentas de IA, esse tipo de campanha pode ser produzido e colocado em circulação a partir de uma sequência de comandos.

Anthropic também monta central de monitoramento

  • A OpenAI não é a única empresa a reforçar suas defesas. A Anthropic, responsável pelo chatbot Claude, criou pela primeira vez uma sala de operações dedicada ao tema, reunindo equipes de analistas em São Francisco, Nova York (EUA) e Washington (EUA);
  • Google e Meta também prometeram ampliar os esforços para impedir que suas ferramentas de IA sejam usadas para enfraquecer a confiança no processo democrático;
  • Na OpenAI, a central eleitoral começou a funcionar na quinta-feira anterior à votação. A equipe de São Francisco trabalha em conjunto com uma unidade em Washington e reúne dezenas de pessoas, segundo representantes da companhia;
  • Os funcionários analisam comandos enviados ao ChatGPT que são sinalizados automaticamente por possíveis tentativas de produzir textos ou imagens falsas sobre as eleições;
  • Um exemplo seria o uso do chatbot para elaborar uma campanha de influência baseada em alegações falsas de fraude eleitoral, como acusações de manipulação de cédulas. O material poderia ser distribuído em redes sociais por meio de contas falsas;
  • Quando identifica atividades maliciosas destinadas a circular em determinadas plataformas, a OpenAI afirma que notifica as empresas responsáveis por esses serviços.

Google e Meta estão entre as empresas que estão se mexendo para tentar impedir o mau uso da IA nas eleições estadunidenses – Imagem: gguy/Shutterstock

IA amplia riscos de manipulação eleitoral

Um levantamento do Brennan Center for Justice, organização ligada à Faculdade de Direito da Universidade de Nova York, identificou cenário contraditório.

Os chatbots mais populares geralmente resistem a solicitações relacionadas a teorias conspiratórias sobre eleições. Ao mesmo tempo, as ferramentas de IA produzem regularmente textos, imagens e vídeos que podem ser utilizados para enfraquecer a confiança na votação.

A preocupação também está relacionada à redução das equipes de segurança e moderação das redes sociais nos últimos anos. Após a interferência russa nas eleições presidenciais de 2016, a Meta criou uma central de operações para as eleições legislativas de 2018.

Desde então, porém, a Meta e outras plataformas reduziram equipes responsáveis por segurança e combate à desinformação eleitoral. A decisão ocorreu em meio à pressão de republicanos e, a partir de 2025, do governo Donald Trump, que acusaram as empresas de censurar opiniões conservadoras.

Esse recuo coincidiu com a expansão das ferramentas de IA, aumentando os receios sobre o impacto da tecnologia nas eleições. Especialistas e ex-integrantes do governo estadunidense também alertaram para a capacidade desses recursos de tornar campanhas de manipulação mais convincentes, enquanto o governo Trump desmontou equipes federais que anteriormente atuavam no combate a ameaças ao processo eleitoral.

“Seria imprudente pensar que essa ameaça desapareceu e que a tecnologia não está tornando essas ameaças mais poderosas e convincentes”, afirmou Lauren Protentis, ex-integrante do Conselho de Segurança Nacional dos Estados Unidos, onde supervisionava questões relacionadas à influência estrangeira maliciosa durante o governo de Joe Biden.

OpenAI já identificou operações ligadas a outros países

A OpenAI já havia divulgado tentativas de Rússia, China e Irã de utilizar o ChatGPT em operações de influência estrangeira. A empresa afirma ter interrompido duas campanhas desse tipo no mês anterior à eleição estadunidense.

Até o momento, porém, a companhia não havia divulgado nenhuma operação específica relacionada às eleições legislativas de novembro.

O investigador-chefe da OpenAI, Ben Nimmo, afirmou que o objetivo é identificar essas iniciativas antes que consigam alcançar um público significativo.

“Estamos tentando detectar as operações antes que tenham a oportunidade de ganhar força”, declarou.

O post Big techs reforçam combate a conteúdos falsos gerados por IA nas eleições dos EUA apareceu primeiro em Olhar Digital.

Big techs reforçam combate a conteúdos falsos gerados por IA nas eleições dos EUA Read More »

Deepfakes podem dificultar análise de provas, alertam OpenAI e Meta

Deixe um comentário / deepfake, DEEPFAKES, inteligência artificial, Meta, openai /

Representantes da OpenAI e da Meta alertaram integrantes do Judiciário dos Estados Unidos na quinta-feira (15) sobre as dificuldades crescentes para identificar vídeos e áudios falsos produzidos por inteligência artificial (IA). Segundo os especialistas, os chamados deepfakes estão se tornando tão sofisticados que será cada vez mais difícil verificar a autenticidade de provas audiovisuais apresentadas em julgamentos.

O alerta foi feito durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos. Desde 2023, o grupo discute como lidar com os riscos de conteúdos fabricados por IA nos tribunais e quais critérios devem ser aplicados para confirmar a validade desse tipo de evidência.

Deepfakes dificultam a verificação de provas

Shira Anderson, advogada de políticas públicas da OpenAI, afirmou que os avanços na geração de imagens por IA tornam cada vez mais difícil desenvolver métodos científicos capazes de identificar conteúdos artificiais.

“As imagens de IA estão cada vez melhores, e não acho que haverá uma maneira científica de detectá-las no futuro”, disse Anderson ao comitê.

Devin Norder, diretor de gerenciamento de produtos da Meta, também destacou a evolução da tecnologia. Segundo ele, conteúdos produzidos pelos modelos de IA mais avançados já podem ser indistinguíveis, para observadores humanos, de mídias autênticas ou de outros materiais gerados artificialmente.

Norder acrescentou que o custo e o tempo necessários para criar esse tipo de conteúdo são muito baixos. Isso aumenta a preocupação com a possibilidade de materiais falsos serem apresentados como provas legítimas em processos judiciais.

Poucos casos identificados até agora

Apesar dos alertas, ainda há poucos registros de disputas judiciais envolvendo deepfakes nos Estados Unidos. Em março, o Centro Judicial Federal, órgão de pesquisa do Judiciário americano, informou que apenas 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado casos em que uma das partes contestou a apresentação de provas por suspeitar que fossem deepfakes.

Jesse Furman, juiz federal de Manhattan e presidente do comitê, afirmou que existe uma quantidade significativa de análises acadêmicas e previsões sobre o impacto da tecnologia nos tribunais, mas que os casos concretos ainda são limitados.

Na reunião de quinta-feira, Furman nomeou um subcomitê para aprofundar a análise do problema. Especialistas da indústria, da academia e do governo, porém, ressaltaram que o desafio não deve ser tratado como uma possibilidade distante. Para eles, a capacidade dos tribunais de impedir o uso de provas falsas tende a se tornar mais difícil.

Ferramentas de detecção têm limitações

Empresas como OpenAI e Meta vêm desenvolvendo ferramentas e serviços para ajudar a verificar a autenticidade de conteúdos visuais. Além disso, novas leis na Califórnia e na União Europeia exigem o uso de marcas d’água digitais destinadas a facilitar a identificação de deepfakes.

Anderson, no entanto, alertou que não existe um padrão universal para detectar essas marcas ou confirmar a autenticidade de imagens e vídeos. Como cada empresa adota seus próprios sistemas, as ferramentas disponíveis não permitem uma verificação confiável de todos os conteúdos.

A representante da OpenAI também afirmou acreditar que os mecanismos de identificação continuarão evoluindo, mas não serão totalmente infalíveis.

Juízes defendem cautela na criação de regras

Valerie Caproni, juíza federal de Manhattan e integrante do comitê, demonstrou cautela em relação à criação imediata de regras específicas para provas geradas por IA. Segundo ela, ainda faltam dados que indiquem que os deepfakes se tornaram um problema disseminado nos tribunais.

Caproni também observou que as normas e leis atuais já proíbem a apresentação de provas fraudulentas e permitem que juízes avaliem se determinado material foi falsificado.

A magistrada ressaltou que a manipulação de evidências não é um problema novo no sistema judicial. Por isso, a discussão envolve determinar se as regras existentes são suficientes para lidar com as dificuldades adicionais trazidas pela inteligência artificial.

O post Deepfakes podem dificultar análise de provas, alertam OpenAI e Meta apareceu primeiro em Olhar Digital.

Deepfakes podem dificultar análise de provas, alertam OpenAI e Meta Read More »

deepfake 1024x614 1

IA recria vítima morta e Justiça anula pena de 10,5 anos no Arizona

Deixe um comentário / deepfake, IA generativa, inteligência artificial /

Uma corte de apelações do Arizona anulou a pena de 10,5 anos de prisão de um homem condenado pela morte de outro motorista. A decisão não derruba a condenação: determina apenas uma nova audiência para definir a pena, depois que um vídeo de IA simulando a vítima perdoando o réu foi exibido no tribunal.

Gabriel Paul Horcasitas, 55, continua condenado pela morte de Christopher Pelkey, 37, durante uma discussão no trânsito em 2021. Na nova audiência, a recriação digital da vítima não poderá ser apresentada nem usada para definir a punição.

Vídeo gerado por inteligência artificial recriou a aparência e a voz de uma vítima apresentada durante uma audiência. – Crédito: Collagery/Shutterstock

A vítima “fala” no tribunal

O vídeo foi levado à audiência pela irmã de Pelkey, Stacey Wales. A produção usava fotografias, vídeos e uma gravação da voz dele para reconstruir sua aparência e fazê-lo transmitir uma mensagem escrita pela própria irmã.

Na gravação, a versão digital de Pelkey dizia: “Acredito no perdão e em Deus que perdoa. Sempre acreditei e ainda acredito”.

O juiz Todd F. Lang, do Tribunal Superior do Condado de Maricopa, reagiu positivamente à produção. “Eu adorei aquela IA, obrigado por isso. Por mais zangados que vocês estejam, e por mais justificadamente zangada que a família esteja, eu ouvi o perdão”, afirmou.

Horcasitas havia recebido uma pena de 10,5 anos de prisão, acima dos nove anos pedidos pelos promotores.

Por que a sentença foi anulada

A condenação não foi derrubada. O Tribunal de Apelações do Arizona decidiu que o processo de definição da pena foi comprometido pelo uso do vídeo e determinou uma nova audiência de sentença.

Os três juízes consideraram que a produção apresentava como se fossem declarações reais da vítima pensamentos que, na verdade, haviam sido imaginados pela irmã. Para a corte, isso apagou a diferença entre aquilo que a família acreditava que Pelkey diria e o que ele próprio teria realmente dito.

A decisão também apontou que não havia, no Arizona, precedente sobre o uso de uma representação de uma vítima criada por IA durante uma audiência de sentença.

Na avaliação dos magistrados, o direito de familiares e vítimas de se manifestarem não pode comprometer o direito do réu a uma sentença baseada em informações precisas e confiáveis.

O entendimento da corte tem um efeito prático imediato:

  • a condenação de Horcasitas permanece válida;
  • a pena aplicada anteriormente deixa de valer;
  • o caso volta ao Tribunal Superior do Condado de Maricopa;
  • a nova audiência deverá ocorrer sem o vídeo gerado por IA.
deepfake
O caso mostra um novo desafio para a Justiça: diferenciar uma manifestação real de uma representação criada por IA. Imagem: FAMILY STOCK / Shutterstock

Um novo desafio para a Justiça

O caso chama atenção para uma situação que a tecnologia tornou possível: colocar no tribunal uma representação digital de alguém que não pode mais falar e fazê-la parecer uma manifestação autêntica.

Leia mais:

Wales contou que passou dois anos preparando sua declaração sobre o impacto da morte do irmão e sentia que faltava algo. Para ela, a IA foi uma ferramenta para contar a história de Pelkey, embora reconhecesse que a tecnologia também pudesse ser usada de maneira inadequada.

Pelkey morreu em 13 de novembro de 2021, em Chandler, no Arizona. Ele havia deixado o carro após Horcasitas buzinar enquanto ambos estavam parados em um semáforo. Durante a discussão, Horcasitas atirou no peito dele.

Agora, o processo retorna à Justiça para uma nova definição da pena. Desta vez, a recriação digital da vítima não poderá fazer parte da audiência.

O post IA recria vítima morta e Justiça anula pena de 10,5 anos no Arizona apareceu primeiro em Olhar Digital.

IA recria vítima morta e Justiça anula pena de 10,5 anos no Arizona Read More »

deepfake 1024x614

IA e deepfakes criam nova ameaça digital para as eleições no Brasil e dificultam combate à desinformação

Deixe um comentário / deepfake, Desinformação, eleições, eleições 2026, fake news, inteligência artificial, Pro /

Conteúdos gerados por inteligência artificial (IA) tomaram o lugar das fake news tradicionais e viraram a maior ameaça digital para as eleições no Brasil. É o que diz o Comitê Gestor da Internet no Brasil (CGI.br), que lançou recentemente a segunda edição do Guia Internet, Democracia e Eleições – um estudo completo sobre o impacto do ecossistema tecnológico moderno na opinião pública nacional.

Desde as eleições de 2018, a dinâmica da internet sofreu transformações profundas. Se antes a desinformação circulava principalmente em redes sociais abertas, hoje os aplicativos fechados de mensagens diretas, como o WhatsApp, dominam esse fluxo. Além disso, a estratégia se multiplicou em diferentes plataformas de forma integrada, colocando as produções em vídeo como o principal motor desse movimento.

O grande salto tecnológico ocorre pela evolução acelerada da IA generativa. As ferramentas atuais criam textos, imagens, áudios e gravações em vídeo com extremo realismo. Esses materiais são direcionados a perfis específicos de usuários de acordo com seus hábitos, aumentando bastante a capacidade de persuasão e a chance de enganar até leitores mais atentos.

Novo guia do CGI.br mostra como vídeos, IA generativa e redes restritas mudaram a circulação de desinformação nas eleições. – Crédito: Collagery/Shutterstock

O destaque da publicação é o avanço devastador das deepfakes, técnica que permite manipular rosto, corpo e voz para simular falas de figuras públicas que jamais aconteceram na realidade. Por se apresentarem tão perfeitas, essas simulações visuais tornam o processo de checagem uma tarefa bem mais complexa para o cidadão comum no dia a dia.

Quer saber mais sobre o assunto? O Olhar Digital preparou uma matéria especial, que está disponível para assinantes do Clube Olhar Digital.

O post IA e deepfakes criam nova ameaça digital para as eleições no Brasil e dificultam combate à desinformação apareceu primeiro em Olhar Digital.

IA e deepfakes criam nova ameaça digital para as eleições no Brasil e dificultam combate à desinformação Read More »

videos ia deepfake eleicoes 2026 1024x576

Caetano, Neymar e Tony Ramos: IA transforma famosos em armas de desinformação e golpes financeiros

Deixe um comentário / deepfake, Desinformação, fake news, inteligência artificial, neymar, Vídeos /

Vídeos falsos usando voz e imagem de figuras conhecidas ganharam circulação nas redes sociais nas últimas semanas, especialmente com a chegada das eleições. Casos recentes mostram a força da inteligência artificial (IA) nesse movimento – ela é capaz de inventar declarações políticas, alterar áudios e criar cenas tão realistas que enganam facilmente quem está rolando a tela do celular.

Essa tática explora a influência de pessoas populares para dar credibilidade a conteúdos inventados. Dessa forma, nomes de grande alcance passam a integrar manipulações que combinam elementos reais e falsos para enganar o público.

As deepfakes avançadas manipulam rostos e vozes com alta perfeição, dificultando muito a verificação de informações falsas pelo eleitor. – Crédito: Imagem gerada por IA

A IA a serviço do debate político enganoso

Um dos exemplos envolve Caetano Veloso e Neymar Jr. No caso do cantor, circula no TikTok uma gravação criada para parecer que ele disse que “Lula salvou este país do ódio” e defendeu a continuidade do governo em 2026. Trata-se de uma montagem enganosa, pois o cantor não deu essa declaração.

A falsificação explorava elementos verdadeiros para ganhar aparência de autenticidade. Caetano realmente participou, em 2026, de um material de campanha de Lula no qual artistas aparecem dizendo “Bora, Lula!”. No vídeo falso, entretanto, a imagem do cantor foi reaproveitada e recebeu um novo áudio, produzido com auxílio de IA, com palavras que ele nunca pronunciou. A própria assessoria de Caetano confirmou à DW que o conteúdo era falso.

Com Neymar, a estratégia foi semelhante, mas com viés político oposto. Um vídeo manipulado fazia o jogador afirmar que estava acompanhando uma suposta perseguição contra Jair Bolsonaro e que Lula e o ministro do Supremo Tribunal Federal (STF) Alexandre de Moraes estariam “com medo da força do presidente”. A declaração também nunca foi feita pelo jogador. O vídeo aproveitou a imagem do atleta para atribuir a ele uma manifestação política que não ocorreu.

Nesse caso, também havia um elemento real que ajudava a dar aparência de autenticidade à falsificação. Neymar declarou voto em Jair Bolsonaro nas eleições de 2022 e, em 2026, apareceu em uma fotografia verdadeira autografando uma camisa da Seleção Brasileira para Flávio Bolsonaro, filho do ex-presidente e candidato à Presidência. A imagem real, no entanto, não comprova que o jogador tenha feito a declaração política apresentada no vídeo falso.

A combinação entre fatos verdadeiros e conteúdo fabricado é um dos aspectos que tornam esses casos particularmente difíceis de identificar. Quem já sabe que Caetano participou de uma campanha de Lula ou que Neymar teve uma relação pública com Jair Bolsonaro pode considerar o vídeo “plausível” antes mesmo de verificar sua origem. A mistura dificulta a checagem porque o conteúdo falso se apoia em fatos que o público já sabe serem verdadeiros.

Infográfico mostra como conteúdos falsos ganham credibilidade ao misturar fatos reais, manipulações por IA e elementos inventados.
Infográfico mostra como conteúdos falsos ganham credibilidade ao misturar fatos reais, manipulações por IA e elementos inventados. – Crédito: Imagem gerada por IA

Fraudes comerciais, fotos falsas e a regulamentação do TSE

O uso de imagens e vozes de pessoas conhecidas não se limita à propaganda política. Tony Ramos também foi vítima da deepfake, conforme noticiado pelo Olhar Digital. Em participação recente no programa Roda Viva, da TV Cultura, o ator contou que sua imagem havia sido usada em um vídeo falso ao lado de Ana Maria Braga para vender um medicamento. Segundo o relato, sua fala foi dublada e usada para dar aparência de autenticidade a uma publicidade que ele não havia feito.

Também circulou nos últimos dias uma imagem falsa de Alexandre de Moraes e Edson Fachin, também ministro do STF. A publicação sugeria que eles estivessem discutindo, mas a imagem foi gerada por IA, segundo plataformas de checagem de fatos. O episódio mostra que a manipulação não depende necessariamente de vídeo: uma fotografia também pode construir uma situação inexistente e produzir uma narrativa enganosa.

A Resolução 23.610/2019 do Tribunal Superior Eleitoral (TSE) determina que conteúdos sintéticos produzidos ou manipulados por IA devem ser identificados quando usados na propaganda. A norma também proíbe, na propaganda eleitoral, deepfakes que criem, substituam ou alterem a imagem ou a voz de pessoas para favorecer ou prejudicar candidaturas. No começo de setembro, o TSE ainda fixou critérios para definir esse tipo de conteúdo.

Segundo o órgão, deepfake é o conteúdo sintético gerado ou alterado por inteligência artificial ou tecnologia equivalente, com alto grau de realismo, capaz de criar, reproduzir ou modificar imagem, voz ou declaração de qualquer pessoa – viva, falecida ou fictícia. Pelo entendimento fixado, a proibição expressa da ferramenta vale para conteúdos configurados como propaganda eleitoral.

A IA não eliminou as técnicas antigas de manipulação. Vídeos reais continuam sendo retirados de contexto, cortados ou combinados com outros áudios para criar situações que nunca aconteceram. Checagem do UOL Confere publicada nesta quarta-feira (30) revelou a manipulação em um vídeo antigo que mostra um homem atacando um padre no Rio de Janeiro, em 2022.

Na gravação original, a agressão ocorreu após um desentendimento pessoal; na versão adulterada que circulou esta semana, o áudio original foi substituído por uma fala sobre soberania nacional. A edição simulava que o religioso havia sido agredido por motivação política – corte fora de contexto que acumulava mais de 100 mil visualizações no Facebook até a publicação da matéria.

Cuidados simples para reconhecer conteúdos manipulados, evitar golpes e interromper a disseminação de informações falsas nas redes sociais.
Cuidados simples para reconhecer conteúdos manipulados, evitar golpes e interromper a disseminação de informações falsas nas redes sociais. – Crédito: Imagem gerada por IA

Aumento de deepfakes impulsiona desinformação e golpes no Brasil

Dados do Primeiro Panorama da Desinformação no Brasil, publicado pela Agência Lupa em fevereiro, mostram que os conteúdos falsos gerados ou manipulados com IA identificados nas checagens da organização passaram de 39, em 2024, para 159, em 2025 – alta de 308%. E um estudo recém-divulgado pela Ekō, organização internacional de responsabilidade corporativa, identificou ao menos R$1,1 milhão pagos por 26 perfis para impulsionar anúncios eleitorais que, segundo a pesquisa, violavam regras da Meta e a legislação brasileira, incluindo deepfakes sem identificação.

A mesma combinação de imagem manipulada, conteúdo político e aparência de notícia também pode ser usada para algo além da desinformação: aplicar golpes financeiros. Recentemente, imagens geradas por IA e a simulação de um portal de notícias sugeriam que o empresário Luciano Hang, proprietário das lojas Havan, teria sofrido um “atentado” a mando do ex-ministro da Fazenda Fernando Haddad, atual candidato ao governo de SP pelo PT.

A história apelava para a rivalidade política para direcionar o público a um site falso com promessa de lucros de até R$10 mil por dia, no qual os usuários eram induzidos a fazer depósitos ou fornecer dados pessoais.

deepfake
Com a inteligência artificial, criminosos conseguem manipular rostos e vídeos, criando conteúdos falsos que podem se passar facilmente por autênticos nas redes sociais. – Crédito: Tero Vesalainen/Shutterstock

Wilder Martins, especialista em cibersegurança da EXA, desenvolvedora de soluções contra ameaças virtuais, reforça que a tecnologia atualmente simula a realidade com perfeição, cria links e sites falsos, muito semelhantes aos originais. “Por isso, a principal barreira de defesa mudou: a pergunta não deve ser mais apenas ‘isso parece verdadeiro?’, mas sim ‘por que estão me pedindo para clicar em um link, fornecer um dado sensível ou fazer uma transferência?’”.

Como identificar conteúdos manipulados e evitar armadilhas 

Segundo Martins, a mesma estrutura pode ser adaptada para diferentes temas que ganham relevância durante o período eleitoral. A maior circulação de informações políticas cria novas oportunidades para criminosos explorarem nomes de candidatos, autoridades, instituições e veículos de comunicação. Entre as possibilidades estão mensagens sobre título de eleitor, biometria, local de votação, pesquisas eleitorais, falsas multas, arrecadações de campanha e conteúdos manipulados com voz ou imagem de figuras públicas.

“Se a mensagem cria uma emergência (seja para evitar um bloqueio, garantir um direito ou cobrar um pagamento), pare imediatamente”, alerta o especialista. “Esse é o gatilho clássico da fraude. A sua principal defesa é não seguir o atalho oferecido pelo golpista. Feche a mensagem e acesse ferramentas e softwares de verificação, distribuídas de forma paga e gratuita, como a EVA [inteligência artificial da EXA que analisa conteúdos suspeitos pelo WhatsApp] para confirmar a informação antes de realizar qualquer transação”.

Com o avanço da IA, identificar uma fraude apenas pelos sinais visuais ou sonoros ficou mais difícil. Falhas que antes entregavam algumas manipulações são menos evidentes, e a verificação precisa ir além da aparência do conteúdo. Em vez de procurar apenas defeitos visuais, a orientação é checar o rastro do conteúdo: confirmar se a pessoa realmente deu aquela declaração em canais oficiais, verificar se veículos de imprensa noticiaram o fato e desconfiar de vídeos polêmicos que circulam sem origem clara.

O post Caetano, Neymar e Tony Ramos: IA transforma famosos em armas de desinformação e golpes financeiros apareceu primeiro em Olhar Digital.

Caetano, Neymar e Tony Ramos: IA transforma famosos em armas de desinformação e golpes financeiros Read More »

deepfake 1024x614

Tony Ramos critica recriação de atores por IA: “Acho um horror”

Deixe um comentário / audiovisual, deepfake, inteligência artificial, tv cultura /

O ator Tony Ramos criticou o uso de inteligência artificial para recriar artistas no audiovisual. A declaração ocorreu durante sua participação no programa Roda Viva, da TV Cultura.

O veterano da teledramaturgia brasileira rejeitou a substituição de pessoas por réplicas digitais e questionou a justificativa de reduzir custos ou melhorar a qualidade das produções. Para ele, a atuação depende da presença humana.

Recriar digitalmente um ator levanta questões sobre imagem, atuação e os limites do uso da inteligência artificial. – Crédito: Collagery/Shutterstock

A recusa de um veterano

Ao abordar os limites do uso da tecnologia, Tony Ramos afirmou que não permitiria sua recriação por inteligência artificial enquanto estiver vivo. O ator também relacionou sua crítica à tentativa de usar a tecnologia como argumento para reduzir custos ou elevar a qualidade de uma produção.

Em vida, eu não permitiria [sua recriação por IA] nem a pau. Não quero isso. Acho um horror, acho que isso é mentir para quem te assiste.

Tony Ramos em entrevista ao Roda Viva.

Para ele, “isso é um subterfúgio para tentar falar que melhora o custo e melhora a qualidade. Mentira, a qualidade é isso aqui: é carne, é osso, é alma, é vibração.”

O assunto tem provocado debates e greves em Hollywood, segundo o programa, justamente em meio à discussão sobre os limites da inteligência artificial no trabalho de artistas.

Tony Ramos foi vítima de deepfake

A discussão ganhou um exemplo concreto quando Ramos contou ter sido vítima de uma manipulação feita com inteligência artificial. Nas redes sociais, um vídeo mostrava uma falsa entrevista do ator com Ana Maria Braga para promover um remédio para próstata.

“Roubaram minha imagem em uma entrevista com a Ana Maria Braga. Dublaram, mal dublado, aliás, e fizeram eu vender um remédio para próstata.”

O caso chama atenção para usos da tecnologia que podem afetar diretamente a imagem pública de artistas. Entre os pontos presentes no relato de Ramos estão:

  • a possibilidade de reproduzir digitalmente a aparência de uma pessoa;
  • a alteração de uma gravação existente para criar uma situação que não aconteceu;
  • a atribuição de uma divulgação comercial a alguém que não a realizou;
  • o uso de redes sociais para disseminar esse tipo de conteúdo.

Apesar da experiência, o ator reconhece que a inteligência artificial já está presente e que será necessário aprender a lidar com ela. Ramos também afirmou que deixará para os filhos e netos a decisão sobre uma eventual recriação de sua imagem depois de sua morte.

“Eles que resolvam”, disse.

A declaração de Tony Ramos reforça uma discussão cada vez mais presente no audiovisual: até onde a inteligência artificial pode ser usada para reproduzir a imagem e a atuação de uma pessoa. Para o ator, a tecnologia pode até fazer parte dessa transformação, mas não substitui a presença humana diante das câmeras.

O post Tony Ramos critica recriação de atores por IA: “Acho um horror” apareceu primeiro em Olhar Digital.

Tony Ramos critica recriação de atores por IA: “Acho um horror” Read More »

destaque urna eleitoral eleicoes 2026 1024x576

Entenda como vídeos gerados por IA e deepfakes se tornaram a maior ameaça digital para as eleições no Brasil 

Deixe um comentário / deepfake, eleição, eleições, eleições 2026, fake news, inteligência artificial /

Conteúdos gerados por inteligência artificial (IA) tomaram o lugar das fake news tradicionais e viraram a maior ameaça digital para as eleições no Brasil. É o que diz o Comitê Gestor da Internet no Brasil (CGI.br), que lançou recentemente a segunda edição do Guia Internet, Democracia e Eleições – um estudo completo sobre o impacto do ecossistema tecnológico moderno na opinião pública nacional.

Desde as eleições de 2018, a dinâmica da internet sofreu transformações profundas. Se antes a desinformação circulava principalmente em redes sociais abertas, hoje os aplicativos fechados de mensagens diretas, como o WhatsApp, dominam esse fluxo. Além disso, a estratégia se multiplicou em diferentes plataformas de forma integrada, colocando as produções em vídeo como o principal motor desse movimento.

IA está muito presente em campanhas para eleições de 2026 – Crédito: Marcelo Camargo/Agência Brasil

O grande salto tecnológico ocorre pela evolução acelerada da IA generativa. As ferramentas atuais criam textos, imagens, áudios e gravações em vídeo com extremo realismo. Esses materiais são direcionados a perfis específicos de usuários de acordo com seus hábitos, aumentando bastante a capacidade de persuasão e a chance de enganar até leitores mais atentos.

O destaque da publicação é o avanço devastador das deepfakes, técnica que permite manipular rosto, corpo e voz para simular falas de figuras públicas que jamais aconteceram na realidade. Por se apresentarem tão perfeitas, essas simulações visuais tornam o processo de checagem uma tarefa bem mais complexa para o cidadão comum no dia a dia.

Na avaliação de Renata Mielli, que atua na coordenação do CGI.br, as grandes redes virtuais viraram o principal meio pelo qual a população consome informações. Segundo ela, por conta desse forte poder de alcance diário, compreender os bastidores da tecnologia e seus algoritmos tornou-se indispensável para defender a própria transparência e a integridade do debate social.

De acordo com o guia do CGI.br, as maiores redes digitais pertencem a corporações privadas focadas em lucro. Seus sistemas internos de recomendação selecionam automaticamente aquilo que cada pessoa vai assistir no feed. Essa arquitetura do sistema prioriza postagens de alto apelo emocional, o que acaba aumentando imensamente a circulação involuntária de informações mentirosas ou distorcidas.

Outro ponto grave envolve a erosão generalizada da confiança no ambiente virtual. Quando todo conteúdo visual passa a ser encarado como potencialmente fabricado por IA, a sociedade passa a duvidar inclusive de gravações autênticas e dados oficiais. Esse fenômeno amplia a polarização política e enfraquece instituições cruciais para a estabilidade do país.

A mente humana tende a aceitar rapidamente postagens que confirmam velhos preconceitos, rejeitando fatos reais que contrariem seus gostos. Esse comportamento natural, somado ao alcance massivo de influencers sem compromisso jornalístico de apuração, cria o cenário ideal para o espalhamento de enganos. Checar a fonte antes de dar o clique de compartilhamento virou a melhor defesa individual.

Vídeos falsos e deepfake
Novo guia do CGI.br mostra como vídeos, IA generativa e redes restritas mudaram a circulação de desinformação nas eleições. – Crédito: Collagery/Shutterstock

Ações integradas de proteção reduzem o alcance de fraudes por IA 

Para Paulo Cesar Camargo, engenheiro de software sênior, arquiteto de dados e nuvem AWS, graduado em Gestão de Sistemas de Informação e pós-graduado em Ciência de Dados e Analytics, as plataformas de redes sociais devem adotar múltiplos mecanismos de defesa. 

Segundo ele, em vez de depender de um único detector infalível, os sistemas precisam avaliar metadados, marcas d’água e padrões de compartilhamento desde a ingestão do vídeo para aplicar respostas proporcionais ao risco. 

“O caminho mais eficaz é adotar uma arquitetura de defesa em profundidade, em vez de depender de um único detector de conteúdo gerado por IA”,  explica Camargo. “Em ambientes de altíssimo tráfego, a análise pode começar no momento da ingestão do vídeo, combinando informações de proveniência, metadados, marcas d’água quando disponíveis, fingerprinting do conteúdo, modelos de detecção e análise comportamental da forma como aquele material está sendo distribuído. Esses mecanismos podem produzir um nível de risco ou confiança para cada conteúdo, permitindo respostas proporcionais”.

Do lado dos usuários, o cenário também exige cautela extra. O especialista alerta que a recompressão efetuada por aplicativos de mensagens costuma remover rastros técnicos úteis para perícias. Como os detectores automatizados operam com probabilidades e estão sujeitos a erros, o cidadão não deve utilizá-los como prova definitiva. A apuração exige cruzar fatos em veículos de imprensa e agências de checagem.

infografico como deepfake se espalha
Infográfico ilustra como o conteúdo falso gerado por IA se espalha rapidamente na internet. – Crédito: Imagem gerada por IA

“Hoje não existe uma ferramenta única, simples e totalmente precisa que permita ao público identificar instantaneamente se qualquer vídeo ou áudio recebido pelo WhatsApp foi produzido por inteligência artificial”, disse Camargo em entrevista ao Olhar Digital. “Um dos problemas é que aplicativos de mensagens podem recomprimir as mídias e alterar ou eliminar informações que seriam úteis para uma análise de autenticidade. Além disso, os próprios detectores de conteúdo sintético trabalham com probabilidades e podem apresentar falsos positivos e falsos negativos, principalmente quando o material passou por edição ou compressão”.

Checagem de procedência reduz o impacto de desinformação nas eleições

Com a evolução dos recursos sintéticos, a verificação do conteúdo passa a depender fortemente da identificação da origem e do histórico das mídias. Uma das apostas da indústria para essa rastreabilidade é o padrão C2PA, que insere assinaturas criptográficas em imagens e vídeos desde a sua captura.

No entanto, Camargo faz uma importante ressalva: comprovar a origem de um arquivo não garante que seu conteúdo traga uma verdade factual. A validação exige combinar esses dados criptográficos com o contexto e fontes independentes.

“Quando a geração de conteúdo sintético se torna cada vez mais convincente, a segurança precisa deixar de depender exclusivamente da análise visual e passar a considerar também a proveniência e a rastreabilidade do conteúdo. Uma das tecnologias importantes nesse cenário é o padrão C2PA, que permite associar ao conteúdo informações verificáveis sobre sua origem, autoria e histórico de modificações por meio de mecanismos criptográficos. Câmeras, softwares de edição e plataformas de publicação podem participar dessa cadeia de proveniência, permitindo verificar quais informações foram registradas e quais alterações foram realizadas por ferramentas compatíveis”, detalha o engenheiro.

Outro aspecto destacado por ele é a separação entre indícios técnicos e enquadramento legal. A tecnologia consegue detectar se há comportamento robótico ou campanhas coordenadas de disparo. Porém, a caracterização de crime eleitoral exige avaliar intenção e contexto, cabendo exclusivamente às autoridades jurídicas essa conclusão. Por essa razão, um eleitor comum que apenas repassa um conteúdo falso sem saber não deve ser colocado no mesmo patamar de quem orquestra um ataque desinformativo.

Dicas de como diferenciar conteúdos verdadeiros e falsos.
Dicas de como diferenciar conteúdos verdadeiros e falsos e não ser enganado às vésperas das eleições. – Crédito: Imagem gerada por IA

Além disso, existe uma clara diferença de ritmo entre conter um conteúdo nocivo e punir seus idealizadores. Sistemas em nuvem conseguem limitar a distribuição de uma publicação suspeita em poucos minutos em redes abertas. No entanto, quando a desinformação circula por canais privados e criptografados, identificar a autoria original requer investigações que frequentemente extrapolam o período da votação.

“Esse cenário evidencia uma diferença fundamental entre detectar, conter, atribuir autoria e responsabilizar alguém. São etapas diferentes, com tempos de resposta diferentes. Plataformas que utilizam infraestrutura escalável em nuvem, sistemas automatizados de moderação e mecanismos de análise de comportamento podem detectar sinais de conteúdo manipulado e reduzir sua distribuição em minutos ou poucas horas, especialmente em redes abertas. Também podem remover conteúdo, bloquear determinados mecanismos de amplificação e sinalizar materiais suspeitos”, conclui o especialista.

No próximo domingo (4), os eleitores brasileiros vão às urnas para votar para presidente, governador, dois senadores, deputado federal e deputado estadual ou distrital. Em um momento marcado pelo avanço de conteúdos gerados por IA, reconhecer manipulações e checar dados antes de compartilhá-los também integra as atenções exigidas no processo eleitoral.

O post Entenda como vídeos gerados por IA e deepfakes se tornaram a maior ameaça digital para as eleições no Brasil  apareceu primeiro em Olhar Digital.

Entenda como vídeos gerados por IA e deepfakes se tornaram a maior ameaça digital para as eleições no Brasil  Read More »

destaque urna eletronica 1024x576

Vídeos falsos e IA superam fake news como ameaça à democracia, alerta novo guia do CGI.br

Deixe um comentário / deepfake, Desinformação, fake news, inteligência artificial /

Vídeos falsos produzidos por inteligência artificial e informações de baixa qualidade já representam uma ameaça maior às eleições e à democracia do que as tradicionais fake news. É o que aponta o novo Guia Internet, Democracia e Eleições, publicado pelo CGI.br.

Segundo a Agência Brasil, o documento compara o cenário atual com o de 2018, quando as redes abertas tinham papel central na disseminação de desinformação. Hoje, redes mais restritas, como o WhatsApp, ganharam espaço nessa circulação.

A multiplicação de conteúdos falsos pode alimentar a desconfiança até diante de informações verdadeiras. Imagem: Marcelo Camargo/Agência Brasil – Imagem: Marcelo Camargo/Agência Brasil

Vídeo assume protagonismo

A desinformação também deixou de depender de uma única plataforma. Segundo o guia, conteúdos enganosos circulam ao mesmo tempo em diferentes ambientes digitais, com o vídeo passando a ser o principal vetor.

Em geral, esses vídeos vêm acompanhados de textos curtos que ajudam a sustentar e dar aparência de legitimidade à narrativa falsa. A IA generativa, que já apareceu no ciclo eleitoral de 2022, deve ganhar ainda mais espaço neste ano, combinada a ferramentas capazes de direcionar mensagens para perfis específicos.

Entre os pontos destacados pelo CGI.br estão:

  • crescimento do uso de vídeos na desinformação;
  • maior circulação de conteúdos em redes restritas, como o WhatsApp;
  • uso de IA generativa para produzir conteúdos enganosos;
  • direcionamento de mensagens a perfis específicos;
  • técnicas que tornam narrativas falsas mais convincentes.

Hoje, as plataformas digitais ocupam um lugar central na forma como os brasileiros se informam sobre o que acontece no mundo, no país e nas cidades onde vivem.

Renata Mielli, coordenadora do CGI.br, à Agência Brasil.

O problema das deepfakes

O realismo das deepfakes está entre as principais preocupações levantadas pelo estudo. À medida que essas ferramentas avançam, identificar uma falsificação pode se tornar difícil até para pessoas acostumadas a avaliar informações.

A consequência pode ir além de acreditar em uma mentira. O guia alerta para a possibilidade de que a multiplicação de conteúdos falsos provoque desconfiança até diante de informações verdadeiras.

A perda de confiança na imprensa e no Judiciário, associada à polarização política, também aparece como fator de preocupação. Segundo o guia, esse ambiente pode favorecer situações em que convicções pessoais acabam se sobrepondo à checagem dos fatos.

ícone do whatsapp na tela de um celular
Aplicativos como o WhatsApp ganharam espaço na circulação de conteúdos enganosos durante a transformação do ambiente digital. – Imagem: Primakov/Shutterstock

Quando a crença pesa mais

O estudo chama atenção para outro comportamento: a tendência de buscar conteúdos que confirmem aquilo que a pessoa já pensa. Informações contrárias às próprias convicções podem ser descartadas. O guia chama esse mecanismo de racionalidade motivada e aponta seu potencial de reforçar posições ideológicas.

Os influenciadores também entram nessa discussão. O CGI.br reconhece sua relevância na comunicação digital, mas ressalta uma diferença em relação ao jornalismo: eles não seguem um código de ética nem respondem institucionalmente pela veracidade de suas afirmações da mesma forma que o jornalismo.

A publicação explica o funcionamento dos sistemas de recomendação e discute o impacto da IA generativa nas eleições. Também apresenta conceitos ligados às deepfakes e aos modelos de linguagem conversacionais.

O material reúne ainda orientações para instituições enfrentarem a desinformação e recomendações para que cidadãos não se tornem vítimas ou propagadores de conteúdos falsos ou enganosos.

A mudança apontada pelo CGI.br mostra como a desinformação eleitoral passou a combinar novos formatos, inteligência artificial e diferentes canais de distribuição. O desafio envolve não apenas identificar uma informação falsa, mas também compreender como ela é produzida e chega a públicos específicos.

O post Vídeos falsos e IA superam fake news como ameaça à democracia, alerta novo guia do CGI.br apareceu primeiro em Olhar Digital.

Vídeos falsos e IA superam fake news como ameaça à democracia, alerta novo guia do CGI.br Read More »

China endurece regras para combater abusos no uso da IA

Deixe um comentário / China, deepfake, DEEPFAKES, inteligência artificial /

A China anunciou nesta segunda-feira (7) novas regras judiciais para lidar com abusos relacionados à inteligência artificial (IA), incluindo a criação de deepfakes e vozes clonadas. As diretrizes foram divulgadas pelo Supremo Tribunal chinês e estabelecem critérios para processos judiciais envolvendo o uso de IA no país.

Segundo a AFP, as normas também abrangem casos de informações falsas geradas por IA e discriminação de preços por meio de algoritmos. A medida ocorre em um setor considerado estratégico para a China, que disputa com os Estados Unidos o desenvolvimento da tecnologia.

Regras para réplicas digitais

De acordo com a agência estatal Xinhua, as novas diretrizes deixam estabelecido que pessoas não podem usar sistemas de IA para criar ou distribuir réplicas digitais reconhecíveis de terceiros sem consentimento. A regra inclui rostos e vozes clonados.

As normas também tratam de disputas relacionadas ao uso da tecnologia para produzir conteúdos falsos. Entre os exemplos estão casos em que uma pessoa tem o rosto alterado digitalmente e a imagem é usada para espalhar acusações sexuais falsas e difamatórias.

Nos últimos anos, ferramentas de inteligência artificial capazes de produzir conteúdos que reproduzem de maneira convincente a aparência e a voz de pessoas reais ganharam espaço. O avanço dessas tecnologias está entre os fatores considerados nas novas orientações judiciais.

Responsabilidade de provedores

As regras também estabelecem possíveis responsabilidades para os provedores de serviços de IA. Segundo a Xinhua, eles poderão responder legalmente quando não agirem rapidamente depois de serem informados de que seus sistemas produziram conteúdos que violam direitos de outras pessoas.

A adoção das diretrizes ocorre após o presidente chinês, Xi Jinping, pedir o reforço da conscientização sobre os riscos da inteligência artificial. O líder também defendeu que a tecnologia seja mantida segura e controlável.

Segundo Tao Kaiyuan, vice-presidente do Tribunal, as diretrizes têm como objetivo “equilibrar o desenvolvimento e a segurança”. A declaração foi feita em uma entrevista coletiva cuja transcrição foi publicada no site do tribunal.

As novas regras, portanto, estabelecem caminhos judiciais para diferentes tipos de conflitos relacionados ao uso de inteligência artificial, desde a criação de réplicas digitais sem autorização até conteúdos falsos e práticas de preços baseadas em algoritmos.

O post China endurece regras para combater abusos no uso da IA apareceu primeiro em Olhar Digital.

China endurece regras para combater abusos no uso da IA Read More »

TSE não multa Flávio por vídeo de Bolsonaro com IA e define regras para deepfake

Deixe um comentário / deepfake, eleição, eleições, inteligência artificial /

O Tribunal Superior Eleitoral rejeitou nesta terça-feira (1º) uma ação do PT contra a divulgação de um vídeo do ex-presidente Jair Bolsonaro feito com inteligência artificial.

No lançamento da candidatura de Flávio Bolsonaro (PL) à Presidência da República, em agosto, foi exibido um vídeo simulando um pronunciamento do pai – que está em prisão domiciliar.

Por 4 votos a 3, entendimento do TSE foi de que não se tratou de uma propaganda eleitoral irregular porque o vídeo foi divulgado na convenção partidária.

Definição de deepfake

Além da votação envolvendo o vídeo de Jair Bolsonaro, os magistrados definiram regras para as deepfakes.

  • Deepfake é uma técnica que usa inteligência artificial para criar ou manipular imagens, vídeos e áudios de forma realista, simulando pessoas, falas ou situações.

Por 5 votos a 2, o TSE estabeleceu que deepfake é o conteúdo sintético produzido ou manipulado por inteligência artificial ou tecnologia equivalente que apresente grau de realismo ou verossimilhança e crie, reproduza ou altere a imagem, a voz ou a manifestação de pessoa viva, falecida ou fictícia. 

A Corte também definiu que a proibição do uso de deepfake nas eleições exige que o conteúdo seja caracterizado como propaganda eleitoral.

O conceito deve ser aplicado aos processos semelhantes que estão em tramitação na Justiça Eleitoral. 

O post TSE não multa Flávio por vídeo de Bolsonaro com IA e define regras para deepfake apareceu primeiro em Olhar Digital.

TSE não multa Flávio por vídeo de Bolsonaro com IA e define regras para deepfake Read More »