DEEPFAKES

Auto Added by WPeMatico

tse 1024x682

Eleições 2026: o que um candidato pode fazer com IA? E o que não pode?

A exibição de um vídeo criado com inteligência artificial (IA) para simular um discurso de Jair Bolsonaro durante a convenção nacional do Partido Liberal (PL), no último sábado (25), colocou a tecnologia no centro do debate eleitoral. Após o evento, o ministro Alexandre de Moraes, do Supremo Tribunal Federal (STF), deu 48 horas para que a defesa do ex-presidente esclarecesse se ele autorizou o uso de sua imagem e voz na produção do material.

Na decisão, Moraes apontou dois possíveis cenários. Caso Bolsonaro tivesse autorizado a gravação, a participação poderia representar novo descumprimento das medidas cautelares impostas para a manutenção da prisão domiciliar humanitária. Se não houvesse autorização, o ministro afirmou que o caso poderia configurar uma hipótese de conteúdo sintético manipulado em desacordo com a legislação eleitoral.

O episódio levantou dúvidas sobre o uso da inteligência artificial nas eleições. Afinal, um candidato pode usar um avatar criado por IA? É obrigatório avisar quando um conteúdo é sintético? O que caracteriza um deepfake proibido? E quais são as consequências para quem descumprir as regras?

O Olhar Digital analisou a resolução do Tribunal Superior Eleitoral (TSE) que disciplina o uso de inteligência artificial na propaganda eleitoral e ouviu especialistas para explicar o que é permitido, o que continua proibido e quais pontos ainda podem depender da interpretação da Justiça.

Resolução do Tribunal Superior Eleitoral (TSE) estabelece regras para o uso de inteligência artificial na propaganda eleitoral, incluindo identificação obrigatória de conteúdos sintéticos e restrições ao uso de deepfakes nas eleições de 2026 – Imagem: Blossom Stock Studio / Shutterstock

Um candidato pode usar inteligência artificial na campanha?

Sim. A Justiça Eleitoral não proibiu o uso de inteligência artificial nas campanhas eleitorais. O que mudou para as eleições de 2026 foi a criação de um conjunto de regras para disciplinar como a tecnologia pode ser utilizada por candidatos, partidos, federações e plataformas digitais.

A principal delas está no artigo 9º-B da Resolução nº 23.610. Sempre que uma propaganda utilizar conteúdo sintético produzido ou manipulado por inteligência artificial para criar, substituir, omitir, mesclar, alterar ou sobrepor imagens e sons, o responsável deverá informar, de forma explícita, destacada e acessível, que aquele material foi produzido com IA e qual tecnologia foi utilizada.

A exigência vale para diferentes formatos. Em vídeos, por exemplo, a identificação deve aparecer tanto no início da peça quanto de forma visual durante sua exibição. Em imagens estáticas, deve haver marca d’água e audiodescrição. Já em materiais impressos, a informação precisa constar em cada página ou face que utilize conteúdo gerado por inteligência artificial.

A resolução também deixa claro que nem toda edição exige esse aviso. Ficam de fora ajustes simples para melhorar a qualidade de imagem ou som, além de elementos gráficos como logomarcas, vinhetas e recursos de marketing já comuns em campanhas eleitorais.

Na reportagem publicada pelo Olhar Digital no início de julho, a advogada Tayná Frota de Araújo, do VLK Advogados, resumiu essa mudança afirmando que esta será a primeira eleição geral realizada sob um conjunto mais estruturado de regras para o uso da inteligência artificial, com medidas preventivas, identificação obrigatória de conteúdos sintéticos e novas responsabilidades para as plataformas digitais.

Na avaliação de Willians Sebriam, advogado da Revio, o objetivo do TSE não foi banir a tecnologia das campanhas, mas impedir seu uso para fabricar situações inexistentes. Segundo ele, “o uso de IA não foi banido das campanhas, ele foi regulamentado”, permitindo que candidatos utilizem a tecnologia “desde que respeitem os princípios da transparência e da veracidade”.

Essa também é a interpretação de Juliano Maranhão, professor da Faculdade de Direito da USP. Segundo ele, “a Resolução do TSE somente proíbe o uso de IA que não seja transparente e tenha por finalidade desinformar, com potencial de desequilibrar o jogo eleitoral”.

Quando a IA deixa de ser permitida?

Embora a IA possa ser utilizada em campanhas, essa autorização não é irrestrita. O artigo 9º-C da Resolução nº 23.610 estabelece situações em que o uso da tecnologia passa a ser proibido. Entre essas hipóteses está o uso dos chamados deepfakes.

Ilustração de um rosto digital com a palavra
Os deepfakes — conteúdos sintéticos que simulam a imagem ou a voz de uma pessoa — estão entre os usos de inteligência artificial proibidos pela resolução do TSE na propaganda eleitoral – Imagem: FAMILY STOCK/Shutterstock

O artigo 9º-C determina que é vedado o uso, para favorecer ou prejudicar uma candidatura, de conteúdo sintético em áudio ou vídeo que tenha sido gerado ou manipulado digitalmente para criar, substituir ou alterar a imagem ou a voz de uma pessoa viva, falecida ou fictícia — ainda que haja autorização da pessoa retratada.

Além dos deepfakes, a resolução também veda conteúdos fabricados, manipulados ou descontextualizados capazes de comprometer a integridade das eleições ou desequilibrar a disputa. O descumprimento dessas regras pode caracterizar abuso do poder político e uso indevido dos meios de comunicação, com consequências que incluem a cassação do registro ou do mandato, além de outras sanções previstas na legislação eleitoral.

A advogada Beatriz Haikal explicou que a regulamentação não impede o uso da inteligência artificial, mas estabelece critérios para separar aplicações legítimas da propaganda irregular. Segundo ela, ferramentas de IA podem ser utilizadas para criar peças gráficas, avatares e outros materiais de campanha, desde que haja transparência quando o conteúdo for significativamente alterado. Já a fabricação de cenas falsas utilizando voz ou imagem de pessoas reais continua proibida.

Juliano Maranhão observa que, na prática, a análise da Justiça Eleitoral dependerá do contexto em que o conteúdo for utilizado.

Segundo o professor, “a avaliação é contextual”: será preciso verificar “se o vídeo sintético é voltado para disseminar informação patentemente falsa, que favoreça o próprio candidato ou prejudique o seu adversário, com potencial de impactar o eleitor”. Também deve ser considerado se o conteúdo tem caráter humorístico ou satírico, sem intenção de enganar o público.

Como exemplo, Maranhão cita uma publicação feita por Tabata Amaral durante a campanha para a Prefeitura de São Paulo em 2024, em que o rosto do então prefeito Ricardo Nunes foi inserido no boneco Ken, da Barbie. Segundo ele, o caso “não se tratava de desinformação, mas uma forma humorística de colocar sua opinião sobre o candidato concorrente”.

Então por que o vídeo de Bolsonaro virou alvo da Justiça?

As regras ajudam a explicar parte da controvérsia envolvendo o vídeo exibido na convenção do PL. No entanto, antes mesmo de discutir se o conteúdo poderia violar a legislação eleitoral, Alexandre de Moraes levantou outra questão: Jair Bolsonaro autorizou ou não o uso de sua imagem e voz? A resposta para essa pergunta pode levar a consequências jurídicas diferentes.

Montagem com fotos do ex-presidente Jair Bolsonaro e do ministro do STF Alexandre de Moraes
Ex-presidente Jair Bolsonaro e o ministro do STF Alexandre de Moraes – Imagem: Marcello Casal Jr. – Agência Brasil / Antônio Augusto – STF

Se Bolsonaro autorizou a produção do vídeo, o caso poderá representar novo descumprimento das medidas cautelares impostas pelo STF. Desde julho de 2025, o ex-presidente está proibido de utilizar redes sociais, direta ou indiretamente, condição que foi mantida para a continuidade da prisão domiciliar humanitária. O ministro também lembra que Bolsonaro já havia sido advertido anteriormente por participar da elaboração de uma carta posteriormente divulgada por seu filho, Flávio Bolsonaro, nas redes sociais.

Por outro lado, se ficar demonstrado que a imagem foi utilizada sem a autorização do ex-presidente, Moraes afirma que a conduta poderá caracterizar uma hipótese de desinformação eleitoral mediante conteúdo sintético manipulado, sujeita às sanções previstas na legislação eleitoral. Para fundamentar esse entendimento, o ministro cita o artigo 9º-C da Resolução nº 23.610 e decisões recentes do Tribunal Superior Eleitoral (TSE) sobre o uso de deepfakes em campanhas.

Para Juliano Maranhão, o caso Bolsonaro exige uma análise diferente daquela prevista apenas pela resolução do TSE. Segundo o professor, o principal questionamento de Alexandre de Moraes não diz respeito ao conteúdo do vídeo em si, mas à eventual participação do ex-presidente na encomenda ou na decisão de produzi-lo. Isso porque Bolsonaro está sujeito a medidas cautelares específicas impostas pelo STF, além das regras gerais da legislação eleitoral.

Alberto Rollo afirma que uma eventual responsabilização dependerá justamente da forma como a Justiça interpretará a participação de Bolsonaro na produção do vídeo. Segundo ele, “se a Justiça considerar que o avatar feito com IA é a mesma coisa que se fosse o próprio Jair, então ele teria desrespeitado a vedação do ministro Alexandre Moraes de produzir manifestação política”.

O advogado ressalva, porém, que a convenção ocorreu antes do início oficial da propaganda eleitoral, que começa em 16 de agosto, e que o vídeo informava ter sido produzido com inteligência artificial. Por isso, Rollo entende que, nesse caso específico, “não houve ilegalidade”, embora a resolução do TSE proíba o uso de deepfakes durante a propaganda eleitoral.

A regulamentação já resolve todos os casos?

Embora o TSE tenha endurecido as regras para o uso de inteligência artificial nas eleições, especialistas avaliam que muitas situações ainda dependerão da interpretação da Justiça Eleitoral.

Isso porque a tecnologia evolui rapidamente e novas formas de utilização surgem antes mesmo que a legislação consiga prever todos os cenários.

Para Juliano Maranhão, esse desafio é inevitável. Segundo o professor, “não há como definir previamente todos os tipos possíveis de uso desinformativo de IA em conteúdo eleitoral”. Na prática, explica, apenas o contexto permite avaliar se houve enganosidade, se o conteúdo prejudica um rival ou favorece um candidato e em que medida isso ocorreu. A regulamentação estabelece um princípio geral, mas caberá aos tribunais aplicá-lo aos casos concretos. Em síntese, Maranhão resume a lógica da regulamentação da seguinte forma:

A regulação determina o conceito central: a IA não pode ser usada para desinformar e prejudicar ou favorecer arbitrariamente candidato levando o eleitor a erro.

Juliano Maranhão, advogado especialista em direito eleitoral

Pessoa utilizando um notebook com ícones que representam inteligência artificial, legislação, segurança digital e fiscalização sobrepostos à imagem.
Especialistas avaliam que a regulamentação da inteligência artificial nas eleições continuará exigindo interpretação da Justiça à medida que novas aplicações da tecnologia surgirem – Imagem: Supatman/iStock

Enquanto isso, o próprio TSE vem ampliando gradualmente as regras. Além da obrigatoriedade de identificar conteúdos produzidos por inteligência artificial e da proibição dos deepfakes eleitorais, as eleições de 2026 também inauguram uma “janela de silêncio” para conteúdos sintéticos. Entre as 72 horas que antecedem cada turno e as 24 horas seguintes ao encerramento da votação, fica proibida a publicação, o compartilhamento e o impulsionamento de novos conteúdos produzidos ou alterados por IA que utilizem imagem, voz ou manifestação de candidatos ou pessoas públicas.

As plataformas digitais também ganharam novas responsabilidades. Elas devem disponibilizar mecanismos para identificar conteúdos produzidos com IA, remover rapidamente materiais ilícitos, impedir que publicações equivalentes continuem circulando e criar canais específicos para denúncias de candidatos e partidos.

Para a advogada Beatriz Haikal, uma das intenções da chamada “janela de silêncio” é evitar o chamado efeito calúnia de véspera — quando um conteúdo falso viraliza às vésperas da votação e não há tempo suficiente para que ele seja desmentido antes de os eleitores irem às urnas.

O post Eleições 2026: o que um candidato pode fazer com IA? E o que não pode? apareceu primeiro em Olhar Digital.

Eleições 2026: o que um candidato pode fazer com IA? E o que não pode? Read More »

analise movimentos faciais 904x1024

Os deepfakes ficaram muito melhores; cientistas respondem com nova IA

Uma equipe internacional de pesquisadores desenvolveu um novo método para identificar vídeos manipulados por inteligência artificial (IA), os chamados deepfakes, com uma taxa média de acerto superior a 95%.

A abordagem, criada por cientistas da Universidade de Tóquio (Japão) e do Instituto Max Planck de Informática (Alemanha), deixa de procurar imperfeições visuais e passa a analisar se as expressões faciais correspondem naturalmente à fala da pessoa.

Segundo os pesquisadores, o sistema conseguiu detectar manipulações que passaram despercebidas por diversos detectores já existentes, representando um avanço na busca por ferramentas mais eficazes contra vídeos falsificados.

O trabalho foi apresentado no artigo “ExposeAnyone: Personalized Audio-to-Expression Diffusion Models Are Robust Zero-Shot Face Forgery Detectors”, divulgado durante a edição de 2026 da Conferência IEEE/CVF sobre Visão Computacional e Reconhecimento de Padrões (CVPR, na sigla em inglês).

Nossa abordagem de detecção de falsificação facial por autoaprendizagem: pré-treinamos nosso modelo de difusão de áudio para expressão em uma coleção de vídeos não rotulados em larga escala. Em seguida, personalizamos nosso modelo pré-treinado com vídeos de referência de uma pessoa de interesse (POI) inserindo um adaptador específico para o sujeito. Finalmente, autenticamos os vídeos suspeitos da POI pela distância de reconstrução por difusão – Imagem: arXiv (2026)

Deepfakes se tornam cada vez mais difíceis de identificar

Os pesquisadores destacam que a IA generativa já é capaz de produzir imagens e vídeos praticamente indistinguíveis de gravações reais para o olho humano.

Embora essa tecnologia tenha diversas aplicações úteis, ela também amplia os riscos de desinformação, roubo de identidade e fraudes. Por isso, desenvolver métodos confiáveis para identificar deepfakes tornou-se uma das principais áreas de pesquisa em IA.

O estudo foi conduzido por Kaede Shiohara e Toshihiko Yamasaki, da Universidade de Tóquio, em parceria com Vladislav Golyanik, pesquisador sênior e chefe do grupo 4D and Quantum Vision do Instituto Max Planck de Informática.

Método abandona busca por artefatos visuais

Segundo os autores, os detectores de deepfake mais precisos disponíveis atualmente costumam utilizar aprendizado supervisionado, sendo treinados com grandes conjuntos de vídeos autênticos e manipulados.

Esse modelo, porém, apresenta uma limitação importante: ele pode acabar aprendendo características específicas de determinados métodos de falsificação, fenômeno conhecido como overfitting, tornando-se menos eficiente diante de técnicas inéditas.

Já os métodos autossupervisionados utilizam apenas vídeos autênticos durante o treinamento. Embora sejam considerados mais resistentes ao surgimento de novas tecnologias de deepfake, normalmente apresentam níveis inferiores de precisão.

Os pesquisadores afirmam que a nova técnica é a primeira abordagem autossupervisionada capaz de combinar robustez com altas taxas de detecção, superando os métodos supervisionados existentes.

Expressões faciais são comparadas com a fala

  • Em vez de procurar inconsistências em pixels ou outros artefatos visuais, o sistema concentra sua análise nos movimentos naturais do rosto;
  • A tecnologia utiliza o modelo FLAME, amplamente empregado em computação gráfica e animação facial, que representa matematicamente expressões faciais por meio de 53 parâmetros;
  • Durante o desenvolvimento do sistema, os pesquisadores realizaram um pré-treinamento utilizando mais de 450 horas de vídeos públicos. Com esse material, o modelo aprendeu a prever quais movimentos faciais seriam naturalmente esperados a partir de uma determinada trilha de áudio;
  • Depois desse treinamento inicial, o sistema pode ser adaptado para uma pessoa específica utilizando apenas cerca de 60 segundos de vídeo, tornando-se um detector personalizado de deepfakes.

Na etapa de análise, o software compara os movimentos faciais observados no vídeo com aqueles previstos a partir da fala. Quando existem diferenças significativas entre os dois conjuntos de informações, isso é interpretado como um forte indicativo de manipulação.

“A combinação de aprendizado autossupervisionado e análise facial baseada no FLAME torna nossa abordagem particularmente robusta contra novos métodos de geração de deepfake, bem como contra distorções como compressão de imagem ou ruído”, afirmou Vladislav Golyanik.

Diagrama que explica como o sistema funciona
Framework ExposeAnyone para detecção de falsificação facial – Imagem: arXiv (2026)

Testes incluíram vídeos produzidos pelo Sora 2

Nos experimentos realizados pela equipe, o método alcançou uma precisão média superior a 95% em diversos conjuntos de dados de referência utilizados pela comunidade científica, superando o desempenho das técnicas consideradas estado da arte.

Um dos desafios mais difíceis foi a avaliação em um conjunto de dados criado pelos próprios pesquisadores com vídeos gerados pelo Sora 2, modelo de geração de vídeos da OpenAI.

Segundo o estudo, enquanto detectores anteriores obtiveram resultados próximos ao acaso — equivalentes a um simples lançamento de moeda —, o novo sistema conseguiu identificar corretamente quase 95% dos vídeos manipulados.

Sistema ainda não funciona em tempo real contra deepfakes

Apesar dos resultados, os pesquisadores reconhecem que a tecnologia ainda possui limitações. O método exige um longo processo de pré-treinamento executado em hardware de alto desempenho e, no estágio atual, ainda não pode ser utilizado em aplicações em tempo real.

Mesmo assim, a equipe considera que a abordagem representa um caminho promissor para o desenvolvimento da próxima geração de sistemas capazes de detectar deepfakes com maior confiabilidade, inclusive diante de técnicas de manipulação cada vez mais sofisticadas.

O post Os deepfakes ficaram muito melhores; cientistas respondem com nova IA apareceu primeiro em Olhar Digital.

Os deepfakes ficaram muito melhores; cientistas respondem com nova IA Read More »

tiktok instagram youtube snapchat 1024x682

YouTube expande ferramenta de detecção de deepfakes por IA para todos os usuários adultos

Em um comunicado publicado no fórum oficial de criadores, o YouTube anunciou a ampliação de sua ferramenta de detecção de deepfakes criados por inteligência artificial para todos os usuários maiores de 18 anos. 

Com a mudança, qualquer pessoa adulta poderá usar o sistema para identificar vídeos que utilizem sua imagem de forma falsa ou manipulada dentro da plataforma.

Em resumo:

  • YouTube libera detector de deepfakes para todos os usuários adultos;
  • Sistema usa selfie para identificar rostos falsificados por inteligência artificial;
  • Plataforma avisa usuários sobre vídeos suspeitos encontrados no YouTube;
  • Pessoas poderão pedir remoção de conteúdos manipulados com suas imagens;
  • Ferramenta busca reduzir golpes, fraudes e desinformação com deepfakes.
Sistema monitora o YouTube em busca de rostos parecidos que possam indicar o uso indevido da imagem das pessoas em conteúdos gerados por IA – Crédito: Tada Images / Shutterstock

Como funciona o detector de deepfakes do YouTube

A ferramenta funciona a partir de uma digitalização facial feita pelo próprio usuário, semelhante a uma selfie. Com esses dados, o sistema monitora o YouTube em busca de rostos parecidos que possam indicar o uso indevido da imagem da pessoa em conteúdos gerados por IA.

Quando encontra uma possível correspondência, a plataforma envia um aviso ao usuário. A partir disso, ele pode pedir a remoção do vídeo. Segundo o YouTube, o número de solicitações registradas até agora ainda é considerado pequeno.

O recurso começou a ser testado inicialmente com criadores de conteúdo. Depois, foi liberado para jornalistas, políticos, autoridades públicas e profissionais da indústria do entretenimento. Agora, a empresa decidiu abrir o acesso para o público em geral.

A expansão representa um passo importante no combate aos deepfakes, tecnologia que permite criar vídeos muito realistas com rostos falsificados digitalmente. O avanço dessas ferramentas tem aumentado preocupações sobre golpes, desinformação e uso indevido da imagem de pessoas comuns.

Mulher com cara de desconfiada vendo outro perfil fake se passando por ela
Mulher com cara de desconfiada vendo outro perfil fake se passando por ela (ironicamente, esta mulher também não existe e foi feita por IA) – Crédito: Layse Ventura via ChatGPT / Olhar Digital

Leia mais:

Remoção é feita após análise criteriosa dos vídeos

O YouTube informou que os pedidos de remoção passam por análise baseada em sua política de privacidade. Entre os critérios avaliados estão o nível de realismo do vídeo, a identificação clara de que o conteúdo foi criado por IA e a possibilidade de reconhecer a pessoa mostrada nas imagens.

A plataforma destacou ainda que existem exceções para materiais de sátira, humor ou paródia. Além disso, a ferramenta atua apenas na identificação facial e não inclui outros elementos, como imitações de voz.

Os usuários também poderão deixar o programa quando quiserem e solicitar a exclusão de seus dados faciais armazenados pela empresa. 

No anúncio, o porta-voz Jack Malon afirmou que não há exigência mínima para que alguém participe da ferramenta. “Com essa expansão, estamos deixando claro que, independentemente de os criadores estarem publicando conteúdo no YouTube há uma década ou estarem apenas começando, eles terão acesso ao mesmo nível de proteção”.

O crescimento das deepfakes vem preocupando cada vez mais especialistas, tendo em vista que a tecnologia já foi usada em casos de assédio, fraudes e criação de conteúdos falsos envolvendo adolescentes, celebridades e figuras públicas.

O post YouTube expande ferramenta de detecção de deepfakes por IA para todos os usuários adultos apareceu primeiro em Olhar Digital.

YouTube expande ferramenta de detecção de deepfakes por IA para todos os usuários adultos Read More »

mulher usando celular via mikotoraw photographer pexels 1024x576

IA e deepfakes silenciam mulheres na vida pública, aponta relatório da ONU

Um relatório da ONU Mulheres, publicado nesta quinta-feira (30), aponta que a violência online e o uso de deepfakes estão afastando mulheres de cargos públicos e da vida política. 

O documento destaca que ataques coordenados buscam silenciar vozes femininas e minar a credibilidade profissional de jornalistas, ativistas e defensoras de direitos humanos mundo afora.

Intitulado “Tipping point: Online violence impacts, manifestations and redress in the AI age“, o estudo contou com a participação de 641 profissionais de 119 países

A pesquisa detalha um cenário de “estupro virtual” e assédio facilitado por inteligência artificial (IA) que resulta em graves danos à saúde mental e retrocessos em direitos conquistados.

IA acelera o silenciamento e agrava a crise de impunidade digital, segundo a ONU

A sofisticação técnica das agressões impressiona pela velocidade: atualmente, ferramentas de IA permitem sobrepor rostos em vídeos pornográficos ou fabricar imagens íntimas em poucos minutos. 

Segundo o relatório:

  • 27% das entrevistadas sofreram assédio via mensagens;
  • 12% tiveram fotos íntimas compartilhadas sem consentimento;
  • 6% foram alvo de deepfakes

O objetivo desses ataques é minar a credibilidade profissional e a saúde mental das vítimas.

Os danos extrapolam o ambiente virtual e atingem a saúde clínica das mulheres de forma severa. O estudo aponta que 24% das vítimas desenvolveram quadros de ansiedade ou depressão decorrentes da violência sofrida no ambiente digital. 

Mais grave ainda é o índice de 13% das entrevistadas diagnosticadas com Transtorno de Estresse Pós-Traumático (TEPT), o que demonstra que o impacto de um ataque online é comparável a traumas físicos graves.

Muitas participantes da pesquisa disseram ter passado a se autocensurar nas redes sociais por receio de serem vítimas de violência online – Imagem: mikoto.raw Photographer/Pexels

Esse cenário gera um “efeito de resfriamento” na democracia, forçando as mulheres a recuarem para se protegerem. 

As estatísticas mostram que 41% das participantes passaram a se autocensurar nas redes sociais e 19% reduziram sua atuação profissional para evitar novos abusos. 

A pesquisadora Lea Hellmueller destaca que, muitas vezes, as próprias autoridades orientam as vítimas a abandonarem seus cargos ou redes sociais. Ou seja, terceirizam para a mulher a responsabilidade pela sua própria proteção.

Para Julie Posetti, coordenadora da pesquisa, o fenômeno do “estupro virtual” é facilitado por tecnologias que, por design, priorizam o lucro ao amplificar discursos de ódio

Ela argumenta que essa violência não é aleatória, mas uma ferramenta política usada em contextos de retrocesso democrático para remover vozes femininas de espaços de decisão. 

O relatório também sugere que a facilidade de acesso a essas ferramentas de IA colocou o poder de destruição de reputações literalmente “na ponta dos dedos” de qualquer agressor.

Apesar da gravidade, o sistema de justiça ainda falha em oferecer respostas concretas. Embora um quarto das mulheres tenha levado os casos à polícia, apenas 15% dessas denúncias resultaram em qualquer ação legal. 

A coautora Pauline Renaud enfatiza que, além de treinar juízes e policiais para que parem de culpar as vítimas, é urgente que haja vontade política para regular as big techs.

O post IA e deepfakes silenciam mulheres na vida pública, aponta relatório da ONU apareceu primeiro em Olhar Digital.

IA e deepfakes silenciam mulheres na vida pública, aponta relatório da ONU Read More »

deepfake impulsinada por ia 1024x576

Startups usam deepfakes para ensinar IAs a não serem enganadas por deepfakes

Uma nova frente de segurança digital adota a estratégia de “combater fogo com fogo” para frear o avanço de fraudes com uso de inteligência artificial (IA) envolvido. Startups especializadas, como Reality Defender, Pindrop e GetReal, desenvolvem seus próprios deepfakes e os usam em treinamentos de algoritmos para torná-los capazes de identificar fraudes em áudio e vídeo. 

O foco principal é blindar grandes corporações contra golpes que usam IA para clonar vozes e rostos e, no fim, autorizar transações financeiras ilícitas, segundo o site The Verge.

O surgimento desse setor é uma resposta direta à popularização de ferramentas de IA generativa, que tornaram a criação de conteúdos falsos um processo praticamente sem barreiras técnicas. 

Atualmente, o maior impacto dessas tecnologias de detecção ocorre no ambiente corporativo, no qual golpes aplicados contra empresas podem resultar em prejuízos superiores a US$ 1 milhão (aproximadamente R$ 5 milhões) numa única transferência fraudulenta.

(Para quem não sabe: Deepfake é quando se usa IA para criar áudios e imagens falsas extremamente realistas para fingir ser outra pessoa.)

Treinamento usa IA para deixar IA mais capaz de distinguir real do manipulado

A Reality Defender usa o que chama de “modelo baseado em inferência” para fazer as detecções. 

O sistema funciona sob uma lógica de “aluno e professor”: os desenvolvedores apresentam uma vasta quantidade de arquivos reais e manipulados para que a IA aprenda a categorizar as diferenças. 

Segundo o CTO da empresa, Alex Lisle, esse método permite que o software identifique falhas e padrões inconsistentes que seriam invisíveis para o olho ou ouvido humano.

Um dos maiores desafios técnicos da “corrida armamentista” de deepfakes é o equilíbrio entre velocidade e qualidade – Imagem: FAMILY STOCK/Shutterstock

Testes práticos indicam que, embora a tecnologia de voz ainda enfrente dificuldades para enganar familiares próximos, que possuem referências auditivas muito íntimas, ela já é eficaz o suficiente para ludibriar colegas de trabalho ou sistemas bancários. 

Para você ter ideia: em experimentos de laboratório, foram necessários apenas nove segundos de áudio e dados coletados em redes sociais para criar um agente de IA convincente o suficiente para manter diálogos em tempo real.

Um dos maiores desafios técnicos dessa “corrida armamentista” digital é o equilíbrio entre velocidade e qualidade. Para que um deepfake de áudio responda instantaneamente numa ligação, ele costuma sacrificar a nitidez sonora. 

Por outro lado, modelos de alta fidelidade, que soam quase idênticos ao original, ainda exigem um tempo de processamento maior para serem gerados, o que dificulta sua aplicação em interações ao vivo.

Fraudes e ‘máscaras digitais’ ameaçam segurança de grandes empresas

O cenário de crimes cibernéticos atingiu um nível “industrial“, com fraudadores utilizando modelos de linguagem para mapear estruturas organizacionais inteiras. 

Criminosos extraem nomes e cargos de redes profissionais como o LinkedIn e coletam amostras de voz no TikTok ou Facebook para criar um banco de dados de cada funcionário. Com essas informações, executam ataques em massa, contatando colaboradores de diversos setores.

Deepfake
Uma das startups identificou o uso crescente de deepfakes “máscaras digitais” em processos seletivos e reuniões via Zoom – Imagem: MDV Edwards/Shutterstock

A Pindrop identificou o uso crescente de “máscaras digitais” em processos seletivos e reuniões via Zoom. Nesses casos, o golpista usa a IA para alterar suas feições em tempo real, assumindo outra identidade. E táticas simples de verificação, como pedir para a pessoa passar a mão na frente do rosto para causar uma falha visual na IA, já não funcionam.

Os modelos atuais são tão sofisticados que conseguem renderizar mãos e movimentos complexos sem distorções, o que torna a manipulação praticamente imperceptível aos olhos.

Como o cidadão comum ainda não tem acesso fácil a softwares de detecção, o futuro dessa tecnologia deve seguir o caminho dos antivírus

Especialistas consultados pelo The Verge preveem que a proteção contra deepfakes será integrada diretamente em navegadores e provedores de e-mail. 

Assim, arquivos e comunicações seriam escaneados automaticamente em busca de sinais de manipulação antes mesmo de chegarem ao usuário final. Seria uma camada de defesa nativa contra a desinformação.

O post Startups usam deepfakes para ensinar IAs a não serem enganadas por deepfakes apareceu primeiro em Olhar Digital.

Startups usam deepfakes para ensinar IAs a não serem enganadas por deepfakes Read More »