Jovens acusam Grok de gerar imagens sexuais quando ainda eram menores
Três adolescentes do estado do Tennessee (EUA) — duas delas ainda menores de idade — processaram a empresa de inteligência artificial (IA) xAI, fundada por Elon Musk, alegando que ferramentas da companhia foram usadas para criar imagens sexualizadas delas quando eram menores. As acusações constam em uma ação judicial que atribui à empresa crimes, como distribuição, posse e produção com intenção de distribuir pornografia infantil.
Segundo a ação, uma mãe do leste do Tennessee procurou a polícia local após descobrir que fotos nuas de sua filha adolescente estavam circulando na internet. Ela afirma ter sido informada pelas autoridades de que as imagens teriam sido geradas com auxílio da xAI, startup de inteligência artificial que ela desconhecia até então.
De acordo com a investigação policial, uma pessoa presa em dezembro teria utilizado o Grok — ferramenta de IA da empresa — para editar fotografias da jovem, incluindo uma imagem retirada de sua conta no Instagram. Na manipulação, o suspeito teria removido digitalmente um biquíni azul da foto, “para retratá-la sem qualquer roupa”, conforme descrito no processo judicial protocolado nesta segunda-feira (16).
Adolescentes contra o Grok
- A adolescente faz parte de um grupo de jovens do Tennessee que acusam a empresa de permitir que suas ferramentas de IA fossem usadas para transformar fotografias nas quais elas apareciam vestidas em imagens falsas de nudez;
- As imagens manipuladas passaram a circular em plataformas, como Discord e Telegram, nos últimos meses;
- Em alguns casos, segundo a denúncia, elas foram trocadas em salas de bate-papo online por outros materiais de abuso sexual infantil. O caso foi inicialmente revelado pelo The Washington Post;
- A ação judicial foi registrada nesta segunda-feira (16) no tribunal federal do Distrito Norte da Califórnia;
- O processo afirma que um único perpetrador reuniu imagens e vídeos de mais de 18 garotas — muitas delas estudantes da mesma escola — e alterou digitalmente parte desse material com o auxílio de IA;
- Segundo os advogados, trata-se da primeira ação movida por vítimas menores de idade relacionada a um escândalo recente envolvendo ferramentas capazes de “despir” pessoas em fotos, recurso que teria gerado controvérsias envolvendo a xAI.
A mãe de uma das adolescentes, que falou sob condição de anonimato para preservar a privacidade da filha, afirmou que o episódio teve forte impacto emocional sobre a jovem, descrita como uma estudante sociável e atleta. “Isso definitivamente a colocou um pouco dentro de uma concha, algo que nunca tínhamos visto antes”, disse.
Os três autores do processo — incluindo duas menores — pedem indenizações por cada violação relacionada à pornografia infantil e buscam impedir que a empresa permita o uso de ferramentas de edição semelhantes às que foram utilizadas para alterar suas imagens.
Os advogados argumentam que a xAI criou um ambiente no qual a disseminação de material de abuso sexual infantil seria inevitável. Segundo a acusação, a tecnologia e a forma como a empresa divulgou suas ferramentas incentivavam a criação de imagens explícitas. No processo, os autores afirmam que “um modelo capaz de criar imagens sexualizadas de adultos não pode ser impedido de criar material de abuso sexual infantil envolvendo menores”.
A advogada Vanessa Baehr-Jones, do escritório Baehr-Jones Law, que representa os adolescentes em ação coletiva proposta, afirmou que o impacto sobre as vítimas pode ser permanente. “Esses jovens — essas crianças — estão enfrentando uma vida inteira com essas imagens sexualizadas do que parece ser o corpo de uma criança circulando na internet”, disse. “Isso não teria sido possível sem essa ferramenta que a xAI lançou, sabendo plenamente que esse material poderia ser gerado.”
Nem Musk nem a xAI responderam imediatamente a pedidos de comentário sobre o processo feitos pelo Post. Em janeiro, porém, Musk escreveu em uma publicação no X que não tinha conhecimento de imagens nuas de menores geradas pelo Grok. “Não tenho conhecimento de nenhuma imagem nua de menores gerada pelo Grok. Literalmente zero”, afirmou.
Segundo Musk, o chatbot apenas segue as solicitações feitas pelos usuários e recusaria produzir qualquer conteúdo ilegal. Ele acrescentou que ataques de “hacking adversarial” poderiam fazer a ferramenta agir de forma inesperada. “Se isso acontecer, corrigimos o bug imediatamente”, escreveu.
Na semana passada, Musk também afirmou em outra publicação que “se é permitido em um filme classificado como R [A-18 no Brasil], é permitido” pelas ferramentas de criação de imagens e vídeos do Grok.
Leia mais:
- Grok: como acessar e usar a inteligência artificial do X (antigo Twitter)
- Como evitar que o X use seus posts para treinar IA
Acusações e mais acusações
A ação judicial surge após a xAI enfrentar críticas por permitir que usuários “despissem” pessoas reais em fotografias usando recursos de edição disponíveis no Grok Imagine e em um modo chamado “Spicy”. Essas funcionalidades permitiam criar imagens sexualizadas de pessoas reais, retratando-as com roupas extremamente reveladoras — por exemplo, com peças tão pequenas quanto um fio dental.
Pesquisadores afirmam que milhões de imagens sexualizadas foram geradas com essas ferramentas, incluindo cerca de 23 mil fotos que aparentavam retratar crianças. O caso levou autoridades a abrir investigações, entre elas o procurador-geral da Califórnia, a Comissão Europeia e o regulador britânico de comunicações.
Em janeiro, a xAI informou que havia revertido algumas das ferramentas de edição em determinadas jurisdições, após já ter restringido anteriormente a geração de imagens apenas a usuários pagantes. Segundo reportagens do Post, a adoção de conteúdos sexualizados pelo Grok fazia parte de uma estratégia para atrair mais usuários para o chatbot.
A ação judicial afirma que a xAI cometeu diversas irregularidades, incluindo a criação de pornografia infantil e o lançamento de uma funcionalidade com falhas graves de design. Os autores alegam que a empresa permitiu conscientemente que suas ferramentas gerassem imagens sexualizadas de menores como parte de um esforço para monetizar a tecnologia de IA.
O processo também sustenta que editar imagens de crianças reais para produzir representações sexualizadas configura criação de pornografia infantil. Autoridades dos Estados Unidos já afirmaram anteriormente que representações sexualmente explícitas de crianças geradas por computador são ilegais.
Segundo a denúncia, “a xAI — e seu fundador Elon Musk — viram uma oportunidade de negócios: lucrar com a predação sexual de pessoas reais, incluindo crianças”.
As estudantes do Tennessee tomaram conhecimento das imagens explícitas no fim do ano passado. Uma delas, identificada no processo como “Jane Doe 1”, recebeu uma mensagem no Instagram informando que fotos sexualizadas dela estavam circulando no Discord.
De acordo com a ação, uma das imagens de abuso sexual infantil atribuídas a ela foi criada a partir de uma fotografia tirada durante o baile de boas-vindas da escola, em setembro de 2025. Outra imagem, em que ela aparece com os seios expostos, teria sido produzida a partir de uma foto do anuário escolar. A jovem “era menor de idade no período relevante”, afirma o processo.
Ela recebeu também um link para um servidor no Discord “que continha imagens e vídeos de pelo menos outras 18 garotas menores de idade, muitas das quais Jane Doe 1 reconheceu de sua escola”. Segundo o documento judicial, a polícia abriu, no ano passado, uma investigação criminal contra o responsável. Ele foi preso em dezembro, quando os investigadores também realizaram buscas em seu telefone.
Mesmo assim, as imagens continuaram circulando amplamente na internet. “Em chats de grupo no Telegram com centenas de outros usuários, [o perpetrador trocou] arquivos de material de abuso sexual infantil dela por conteúdo sexual explícito de outros menores”, diz a ação.
Os advogados afirmam ter consultado especialistas independentes que concluíram que as imagens foram geradas por IA — especificamente pelo Grok. Segundo a denúncia, o autor utilizou o chatbot e outras ferramentas que licenciam suas capacidades, incluindo aplicativos projetados para “despir pessoas”, para manipular fotos reais de menores. Esses aplicativos funcionariam como intermediários, levando os recursos do Grok a usuários que não acessam diretamente o site da ferramenta ou o aplicativo X.
“Em todos os casos, as imagens e vídeos reais enviados para os servidores dos réus não eram material ilegal, mas tornaram-se conteúdo ilícito apenas depois que a IA dos réus transformou os arquivos nos servidores da xAI para produzir e distribuir material de abuso sexual infantil”, afirma o processo.
Até fevereiro, as duas outras autoras da ação — ambas menores — descobriram, por meio da investigação criminal, que o suspeito também havia usado imagens delas para criar material de abuso sexual infantil.
Segundo os advogados, as consequências do episódio podem acompanhar as vítimas por décadas. A denúncia afirma que elas provavelmente receberão notificações do National Center for Missing & Exploited Children pelo resto da vida, informando que “réus criminais possuíram, receberam ou distribuíram arquivos de material de abuso sexual infantil que as retratam”.
Em entrevista ao Post, a advogada Annika K. Martin, principal responsável pelo caso, disse que gostaria de fazer uma série de perguntas diretamente ao fundador da xAI, ou seja, Musk.
“Como pai, você consegue imaginar seu filho — o rosto do seu filho — em imagens de atos sexuais depravados, inserido em vídeos de comportamento sexual grotesco?”, questionou. “A voz do seu filho em um vídeo gritando. Você consegue imaginar isso como pai? Consegue imaginar isso e se sentir bem com o que fez?”
O post Jovens acusam Grok de gerar imagens sexuais quando ainda eram menores apareceu primeiro em Olhar Digital.
Jovens acusam Grok de gerar imagens sexuais quando ainda eram menores Read More »
