Pro

A Meta permitiu a publicação de mais de 50 anúncios pagos com imagens de abuso sexual infantil geradas por inteligência artificial (IA), segundo uma investigação do grupo independente Tech Transparency Project (TTP).

As campanhas foram exibidas no Facebook, Instagram, Messenger e Threads entre novembro do ano passado e o início de agosto e alcançaram usuários nos Estados Unidos, Reino Unido e em mais de uma dezena de países da Europa.

De acordo com a investigação, parte dos anúncios promovia aplicativos de nudify — ferramentas que utilizam IA para criar imagens falsas de nudez —, enquanto outros continham imagens de menores acompanhados de mensagens de conotação sexual ou direcionavam usuários para serviços que geravam pornografia por inteligência artificial.

O TTP afirma que esta é a segunda vez, em poucas semanas, que anúncios relacionados à exploração sexual infantil são encontrados nas plataformas da Meta.

Publicidade passou pela revisão da Meta

Segundo Katie Paul, diretora do Tech Transparency Project, o caso chama atenção porque os conteúdos não eram publicações comuns feitas por usuários, mas anúncios pagos aprovados pela própria empresa.

“Esses anúncios não fizeram qualquer esforço para esconder o que promoviam. É importante destacar que não eram publicações de terceiros no Facebook ou Instagram. Eram anúncios revisados, aprovados e autorizados pela Meta, que permaneceram ativos enquanto a empresa recebia pela publicidade”, afirmou à revista WIRED.

Os registros da biblioteca pública de anúncios da Meta mostram que as campanhas permaneceram ativas por vários dias. Algumas eram direcionadas exclusivamente ao público masculino.

Embora muitos anúncios tenham atingido poucas contas, um deles foi exibido para pelo menos 2.563 usuários em países, como França, Alemanha, Irlanda, Itália, Holanda, Espanha, Suécia e Reino Unido. A Meta não divulga o alcance das campanhas em todos os mercados, incluindo os Estados Unidos, o que pode significar que o número total de pessoas impactadas seja maior.

Novos anúncios surgiram durante a investigação

Os pesquisadores localizaram inicialmente cerca de duas dezenas de anúncios. No entanto, horas antes da publicação da reportagem da WIRED, encontraram aproximadamente outros 30 anúncios semelhantes.

Segundo o TTP, parte dessas novas campanhas havia sido publicada depois que a revista entrou em contato com a Meta para pedir esclarecimentos, e algumas ainda estavam sendo exibidas aos usuários naquele momento.

A organização informou que comunicou imediatamente os casos ao National Center for Missing and Exploited Children (NCMEC), órgão estadunidense responsável por receber denúncias de exploração sexual infantil na internet.

Meta removeu o conteúdo após ser procurada

Após ser questionada pela WIRED, a Meta retirou os anúncios de sua biblioteca pública por violarem suas políticas sobre exploração sexual infantil, nudez e atividade sexual.

Em nota, a empresa afirmou que combate esse tipo de conteúdo de forma agressiva. “A exploração sexual é horrível, e trabalhamos agressivamente para mantê-la fora de nossa plataforma. A maioria desses anúncios teve alcance mínimo e muitos já haviam sido desativados antes de a WIRED compartilhar as informações conosco.”

A companhia acrescentou que parte das campanhas foi publicada antes da implementação de novas ferramentas de IA destinadas a identificar anúncios que violam suas políticas já no momento do envio.

Segundo a Meta, mais de 36 milhões de conteúdos relacionados à exploração sexual infantil foram removidos de suas plataformas no último ano. A empresa também destacou que tem adotado medidas judiciais contra desenvolvedores de aplicativos de nudify.

Leia mais:

• Como proteger suas redes sociais de golpistas
• Threads: o que é, como funciona e como usar a rede social do Instagram
• Estudo liga redes sociais antes dos 12 anos a notas mais baixas

Sistema de anúncios levanta questionamentos

A Meta afirma que todos os anúncios passam por um processo de revisão antes de serem publicados, realizado principalmente por sistemas automatizados. Suas políticas proíbem expressamente conteúdos relacionados à exploração sexual infantil, além de anúncios que contenham nudez, atividade sexual ou imagens sexualmente sugestivas.

Para Paul, no entanto, a investigação levanta dúvidas sobre a eficácia desse sistema. Segundo ela, alguns dos anúncios encontrados eram praticamente idênticos a campanhas que já haviam sido removidas anteriormente pela própria Meta.

Na avaliação da pesquisadora, isso indica que conteúdos já identificados como ilegais conseguiram voltar a circular por meio da plataforma de publicidade da empresa.

Outro ponto destacado pelo TTP é que a biblioteca pública de anúncios da Meta não oferece uma ferramenta para que usuários denunciem campanhas que já deixaram de ser exibidas, mesmo que continuem acessíveis no acervo da plataforma.

Empresas chinesas aparecem entre os anunciantes

Os pesquisadores afirmam que a maioria das campanhas foi publicada por contas com poucos ou nenhum seguidor. Quando os anunciantes podiam ser identificados, eles estavam ligados principalmente a empresas chinesas.

Um dos casos envolvia a Meet Social, companhia que já atuou como revendedora de publicidade da Meta na China, país onde Facebook e Instagram são bloqueados. A empresa não respondeu aos pedidos de comentário da WIRED.

Apple remove aplicativo citado na investigação

Diversos anúncios direcionavam usuários para o aplicativo MaskAI, disponível na App Store da Apple.

Segundo a WIRED, o aplicativo não exibia conteúdo explícito antes da instalação, mas oferecia ferramentas para gerar pornografia por IA e criar montagens com rostos de pessoas em imagens de conteúdo sexual.

Após ser procurada pela reportagem, a Apple informou que removeu o aplicativo por violar suas políticas contra aplicativos de nudify. A empresa afirmou que “sempre proibiu rigorosamente aplicativos desenvolvidos para gerar, distribuir ou consumir pornografia”.

Mercado de aplicativos de “nudificação” preocupa especialistas

O crescimento da IA generativa impulsionou a proliferação de serviços capazes de criar imagens falsas de nudez e pornografia. Especialistas alertam que essas ferramentas vêm sendo utilizadas tanto para produzir pornografia não consensual quanto para gerar material de abuso sexual infantil.

Após o contato da WIRED, a Meta também encaminhou à reportagem declarações de organizações parceiras na área de segurança digital.

A Tech Coalition destacou que a empresa compartilha milhares de endereços ligados a conteúdo abusivo por meio do sistema Lantern, enquanto a Revenge Porn Helpline afirmou que os aplicativos de nudify representam um desafio constante devido à rapidez com que seus responsáveis criam novos serviços para escapar das medidas de fiscalização.

Alexios Mantzarlis, cofundador da publicação Indicator e ex-especialista em confiança e segurança do Google, disse ter identificado e denunciado mais de 25 mil anúncios de aplicativos de nudify nas plataformas da Meta nos últimos anos.

Segundo ele, apesar de a empresa informar que removeu mais de 344 mil anúncios desse tipo e mover ações judiciais contra alguns desenvolvedores, os responsáveis continuam criando novas contas e domínios para manter as operações ativas.

“Os responsáveis por essas redes estão bem preparados para criar novas contas de anunciantes e novos domínios, utilizando técnicas semelhantes às empregadas por redes de golpes. Infelizmente, essa indústria de abuso sexual baseado em imagens deixou de ser uma novidade para se tornar uma presença permanente no ecossistema online devido à aplicação tímida das regras pelas plataformas”, afirmou à WIRED.

O post Meta teria aprovado mais de 50 anúncios com abuso infantil gerado por IA apareceu primeiro em Olhar Digital.