A deputada trabalhista britânica Jess Asato entrou com uma ação judicial contra a xAI, empresa de inteligência artificial (IA) ligada a Elon Musk, após afirmar que a ferramenta Grok foi utilizada para criar imagens falsas e sexualizadas dela sem consentimento. O caso foi levado à Alta Corte de Londres e pode se tornar um marco para definir até que ponto empresas de IA podem ser responsabilizadas pelo conteúdo gerado por seus sistemas.
Asato, que representa o distrito de Lowestoft no Parlamento do Reino Unido, afirmou que tomou conhecimento das imagens em janeiro. Segundo ela, a ferramenta produziu representações suas usando biquíni sem autorização, algo que classificou como uma experiência “violadora”.
Parlamentar britânica processou a xAI pela criação de imagens falsas suas pelo Grok – Imagem: Algi Febri Sugita / Shutterstock
Ação judicial questiona responsabilidade da xAI
De acordo com informações apresentadas no processo, a deputada acusa a xAI de descumprir leis relacionadas à proteção de dados e ao uso indevido de informações privadas ao permitir que usuários utilizassem o Grok para criar esse tipo de conteúdo.
A ação sustenta que a empresa deveria ter adotado mecanismos de proteção para impedir a geração de imagens sexualizadas de pessoas reais sem consentimento.
Em entrevista ao Financial Times, Asato afirmou que, além das imagens em biquíni, a ferramenta também teria produzido um vídeo em que ela aparecia sendo cloroformizada e preparada para sofrer uma agressão sexual.
Segundo a parlamentar, o material começou a ser criado depois que ela criticou publicamente a produção de imagens sexualizadas não consensuais geradas por inteligência artificial.
“Minha esperança é que isso reequilibre os direitos dos indivíduos frente a empresas de tecnologia muito grandes que deveriam ter implementado salvaguardas antes de causar danos a mulheres e crianças”, declarou Asato ao Financial Times.
Caso semelhante já foi apresentado nos Estados Unidos
O processo movido por Jess Asato ocorre após uma ação semelhante apresentada no estado de Nova York por Ashley St Clair, mãe de um dos filhos de Elon Musk.
Ela alegou que o Grok também foi utilizado para criar imagens explícitas falsas envolvendo sua imagem. Entre os conteúdos citados na ação estaria uma representação em que ela aparecia menor de idade.
Para Ravi Naik, advogado que representa Asato, a discussão central do caso está na responsabilidade dos desenvolvedores pela forma como suas ferramentas são projetadas e disponibilizadas ao público.
“O princípio central deste caso é que os desenvolvedores devem responder pela maneira como projetam e implementam suas ferramentas”, afirmou o advogado ao Financial Times.
Governo britânico e regulador já investigaram o caso
O uso do Grok para gerar grandes quantidades de imagens sexualizadas de mulheres reais e, em alguns casos, de crianças, já havia provocado reações do governo britânico no início do ano.
Em janeiro, autoridades do Reino Unido ameaçaram adotar medidas contra a plataforma X após a circulação desse tipo de conteúdo. O órgão regulador de mídia Ofcom também abriu uma investigação sobre o assunto.
Inicialmente, a empresa de Musk informou que limitaria a criação dessas imagens a usuários pagantes da rede social. A medida foi criticada pelo primeiro-ministro Keir Starmer, que a classificou como “horrível”.
Poucos dias depois, o X anunciou que havia interrompido completamente a função que permitia ao Grok editar fotografias de pessoas reais para exibi-las usando roupas mais reveladoras.
Outros problemas envolvendo o Grok
O Grok também esteve envolvido em outro episódio de repercussão no Reino Unido. A ferramenta identificou incorretamente dois policiais de Hampshire como participantes da prisão de Henry Nowak.
Uma das profissionais citadas erroneamente foi Christi Hill, que trabalhou como policial por 12 anos. Segundo relatos, ela precisou se deslocar para um local seguro após passar a ser alvo de publicações na plataforma X.
Diversas postagens pediam que Hill e outro policial, também identificado de forma incorreta pela inteligência artificial, fossem localizados, presos ou até sofressem atos de violência.
Novos dados revelam que o chatbot Grok, desenvolvido pela xAI de Elon Musk, teve presença quase inexistente no uso de inteligência artificial pelo governo americano em 2024. Um relatório da Reuters analisou mais de 400 exemplos de uso governamental de IA e encontrou apenas três menções ao Grok ou à xAI.
Em contraste, os modelos da OpenAI aparecem em mais de 230 exemplos, enquanto Google e Anthropic figuram dezenas de vezes cada. Quando o Grok aparece, é apenas para tarefas básicas como elaboração de documentos e gerenciamento de mídias sociais, sempre acompanhado de concorrentes como Microsoft e OpenAI.
Desempenho limitado em projetos governamentais
Em uma base de dados separada com projetos mais ambiciosos mas menor número de usuários, o padrão se repete. O Grok aparece apenas três vezes: duas para tarefas administrativas rotineiras na Election Assistance Commission e uma no Departamento de Energia, em um projeto piloto no Lawrence Livermore National Laboratory para resumos de documentos e pesquisas gerais.
A Reuters encontrou 140 entradas envolvendo Microsoft e OpenAI nesta base, além de pelo menos 10 entradas para Anthropic e dezenas para o Gemini do Google. Os dados não capturam agências de inteligência ou o Pentágono, onde a xAI conseguiu um contrato de US$ 200 milhões no ano passado e foi recentemente autorizada a operar em redes classificadas.
Fontes entrevistadas pela Reuters sugerem que a explicação é simples: o Grok não é tão bom quanto seus rivais. “Simplesmente não é o melhor modelo disponível”, disse uma fonte não identificada do Pentágono, acrescentando que funcionários tendem a preferir Gemini ou Claude.
Rankings públicos de modelos de IA corroboram essa visão. Anthropic, Google e OpenAI dominam as primeiras posições, enquanto o Grok raramente aparece entre os 10 melhores, exceto ocasionalmente em categorias de imagem ou vídeo.
A SpaceX incorporou a xAI; ambas são de Elon Musk – Imagem: Samuel Boivin/Shutterstock
Risco para o IPO da SpaceX
A situação é problemática para Musk e ainda mais para a SpaceX, que absorveu a xAI no início deste ano. Os documentos de IPO da empresa de foguetes mostram que ela colocou a IA – e especificamente o Grok – no centro de sua proposta para investidores.
A SpaceX afirma ter identificado “o maior mercado endereçável acionável da história humana”: uma oportunidade impressionante de US$ 28,5 trilhões. Praticamente todo esse valor estimado vem da IA, particularmente IA empresarial, não de foguetes ou satélites.
O desempenho do Grok em agências governamentais pode indicar como ele se sai em outros locais de trabalho. Como parte do esforço da xAI para conquistar clientes empresariais, Musk supostamente pressionou bancos a comprar assinaturas do Grok se quisessem participar do IPO da SpaceX.
Segundo a agência de notícias, em sua versão voltada ao consumidor, o Grok é deliberadamente desagradável. Musk posicionou o chatbot como uma alternativa menos tendenciosa e menos censurada a ferramentas como ChatGPT, mas isso se traduziu em um produto com padrões evidenciais frouxos, obsessão doentia por Musk e longo histórico de resultados ofensivos, conspiratórios e sexualizados.
O histórico do Grok inclui elogiar Adolf Hitler, questionar o número de mortos do Holocausto, espalhar milhões de deepfakes sexualizados não consensuais por todo o X, incluindo de crianças, e alimentar uma imitação racista e transfóbica da Wikipedia. Houve também a vez em que se chamou de “MechaHitler”.
A SpaceX parece entender o problema. Em seus documentos, a empresa alertou que os modos “picantes” ou “descontrolados” do Grok carregam “riscos elevados”, incluindo danos à reputação, escrutínio regulatório e processos judiciais. Como isso vai impactar o IPO? Vamos saber em breve.
Elon Musk está exigindo que bancos e outros assessores envolvidos na oferta pública inicial de ações (IPO, na sigla em inglês) da SpaceX adquiram assinaturas do Grok, seu chatbot de inteligência artificial (IA), segundo informações publicadas pelo The New York Times com base em fontes familiarizadas com o assunto.
De acordo com a reportagem, a exigência se estende a instituições financeiras, escritórios de advocacia, auditores e demais consultores que desejam participar de um dos maiores IPOs da história. Algumas dessas instituições já concordaram em gastar dezenas de milhões de dólares por ano com o serviço e iniciaram a integração do Grok em seus sistemas de tecnologia da informação.
Entre os bancos que atuam como coordenadores da oferta — conhecidos como bookrunners — estão Morgan Stanley, Goldman Sachs, JPMorgan Chase, Bank of America e Citigroup. Essas instituições desempenham papel central na estruturação e condução da operação.
Nem Musk nem SpaceX responderam aos pedidos de comentário do Times. JPMorgan Chase, Goldman Sachs, Citigroup e Bank of America se recusaram a comentar, enquanto o Morgan Stanley não respondeu imediatamente às solicitações.
IPO da SpaceX chega, mas a que custo?
A iniciativa ocorre em meio a expectativas elevadas para a abertura de capital da SpaceX;
Segundo a Bloomberg, a empresa elevou sua meta de valuation para mais de US$ 2 trilhões (R$ 10,3 trilhões), o que pode torná-la a maior listagem da história do mercado acionário;
A companhia pretende levantar cerca de US$ 75 bilhões (R$ 386,6 bilhões), superando grandes IPOs anteriores, como o da Saudi Aramco, em 2019, e o do Alibaba, em 2014;
Outras estimativas apontam que a oferta pode arrecadar mais de US$ 50 bilhões (R$ 257,7 bilhões), com avaliação acima de US$ 1 trilhão (R$ 5,1 trilhões). Nesse cenário, os bancos envolvidos poderiam gerar mais de US$ 500 milhões (R$ 2,5 bilhões) em taxas de assessoria.
A exigência de Musk não é totalmente incomum em grandes transações, nas quais empresas frequentemente fazem demandas a seus assessores financeiros. Ainda assim, a obrigatoriedade de adquirir um produto específico chama atenção pelo grau de imposição.
Segundo pessoas com conhecimento das negociações, a compra das assinaturas do Grok não foi apenas um gesto de boa vontade por parte dos bancos, mas uma condição imposta por Musk. O empresário também teria solicitado que os bancos anunciassem no X, de sua propriedade, embora essa exigência tenha sido menos enfática.
IPO da SpaceX promete ser um dos maiores da história – Imagem: photo_gonzo/Shutterstock
A estratégia evidencia a influência de Musk sobre o setor financeiro, especialmente em um momento em que Wall Street busca grandes operações após um período de baixa atividade em IPOs relevantes.
O Grok faz parte das iniciativas de IA associadas à SpaceX, que se fundiu à xAI em fevereiro. Apesar da aposta, o chatbot ainda ocupa uma posição inferior no mercado, atrás de concorrentes, como ChatGPT, Claude e Gemini.
Musk tem promovido o Grok como uma alternativa ao que considera excessos de correção política em outras plataformas, afirmando que o chatbot não seria “woke”.
Ainda assim, o sistema esteve envolvido em controvérsias recentes, incluindo a disseminação de conteúdo antissemita, elogios a Adolf Hitler e a geração de imagens sexualizadas sem consentimento. Países, como Indonésia e Malásia, proibiram o uso do Grok, enquanto outras nações abriram investigações.
Mesmo diante das críticas, Musk continua a promover o chatbot em sua rede social, incentivando seus seguidores a utilizarem a ferramenta. Em uma das mensagens republicadas por ele, lê-se: “Grok & xAI estão sem dúvida crescendo mais rápido do que qualquer outra IA.”
Atualmente, a maior parte da receita do Grok vem de assinaturas individuais. A adesão dos bancos pode fortalecer a vertente corporativa do produto antes da abertura de capital da SpaceX. Antes da fusão com a SpaceX, a xAI registrou cerca de US$ 1 bilhão (R$ 5,1 bilhões) em receita com suas operações de IA, embora não tenha detalhado a divisão entre clientes corporativos e consumidores finais.
Outro destaque financeiro da SpaceX é a Starlink, serviço de internet via satélite, considerado o principal ativo da empresa. Documentos financeiros indicam que o Starlink gerou aproximadamente US$ 8 bilhões (R$ 41,2 bilhões) em receita em 2024, além de bilhões de dólares em fluxo de caixa livre.
Nos últimos meses, banqueiros têm trabalhado nos escritórios da SpaceX, na região de Los Angeles, auxiliando na preparação dos documentos para o IPO. A empresa apresentou confidencialmente os papéis à Securities and Exchange Commission (SEC), mas não incluiu os nomes dos bancos envolvidos no registro.
Ainda não está definido qual instituição assumirá o papel principal na operação, posição que costuma garantir maior prestígio e participação nas taxas geradas pela oferta.
A aposta de grandes nomes da tecnologia em robôs humanoides como caminho para transformar o trabalho humano ganha força e levanta debates sobre o futuro do emprego. Liderado por Elon Musk, esse movimento — chamado de “physical AI” (ou IA física, em português) — busca levar os avanços da inteligência artificial (IA) para o mundo físico, automatizando tarefas que hoje dependem de mão de obra humana.
Segundo o The Washington Post, na visão de Musk, esse futuro seria marcado por abundância: bilhões de robôs realizariam todo o trabalho necessário, enquanto uma rede de veículos autônomos e máquinas humanoides, alimentadas por energia solar, garantiria recursos praticamente ilimitados.
Nesse cenário, a pobreza seria eliminada e o trabalho se tornaria opcional. Ao mesmo tempo, o bilionário poderia se tornar o primeiro trilionário do mundo.
Musk e seus planos de robôs humanoides
Apesar de seu histórico de promessas ambiciosas, Musk tem direcionado suas empresas para essa meta;
A Tesla passou por uma mudança estratégica recente, priorizando o desenvolvimento de robôs em detrimento de alguns de seus modelos de veículos, incluindo um popular sedã de luxo. A montadora também iniciou a criação de uma nova linha de produção voltada ao robô humanoide Optimus;
Para acelerar o projeto, a Tesla intensificou a contratação de profissionais de outras áreas da tecnologia, com foco em habilidades específicas, como a reprodução dos movimentos e da destreza da mão humana;
Já a SpaceX, empresa espacial de Musk que deve estrear na bolsa em breve, adquiriu a startup de IA xAI, que será responsável por desenvolver softwares em integração com a Tesla;
Segundo a empresa, esse exército de robôs faz parte da missão de “construir um mundo de abundância incrível”.
Outras gigantes do setor também avançam nessa direção. Empresas, como Amazon, Nvidia e a startup Atoms, criada pelo cofundador da Uber, Travis Kalanick, anunciaram iniciativas recentes em robótica avançada. A missão da Atoms, por exemplo, é promover “automação física para transformar a indústria e movimentar o mundo”.
A startup Figure, referência no setor, chegou a levar um robô humanoide à Casa Branca, onde ele participou de um evento ao lado da primeira-dama Melania Trump.
A ideia por trás da “IA física” é expandir o alcance da IA para atividades que não podem ser realizadas apenas por softwares, como tarefas manuais complexas. Enquanto o boom da IA já impacta empregos de escritório, líderes do setor veem uma oportunidade ainda maior em substituir trabalhos físicos, criando um novo patamar de automação.
Aposta da Tesla é alta no Optimus (Imagem: Divulgação/Tesla)
IA física?
“A IA física é o maior [mercado endereçável total] da história da humanidade”, afirmou Shay Boloor, estrategista-chefe da Futurum. “Acho que a Tesla está se posicionando para ser uma grande vencedora.”
O termo ganhou força no Vale do Silício, sendo amplamente utilizado por empresas, como a Nvidia. Em comunicado recente, o CEO da companhia, Jensen Huang, declarou: “A IA física chegou — toda empresa industrial se tornará uma empresa de robótica.”
Apesar do entusiasmo, o avanço da robótica levanta preocupações. Nos Estados Unidos, autoridades e especialistas temem que a automação acelere ainda mais o declínio do setor industrial, já afetado nas últimas décadas pela transferência de empregos para o exterior.
O senador Bernie Sanderscriticou o protagonismo de bilionários nesse processo e cobrou explicações sobre investimentos massivos em IA e robótica. “Quem está investindo trilhões de dólares em pesquisa e desenvolvimento de IA e robótica?,” questionou. “São as pessoas mais ricas da Terra. São o Sr. Musk, o Sr. Bezos, o Sr. [Mark] Zuckerberg, o Sr. [Larry] Ellison.”
Ele também levantou dúvidas sobre os impactos sociais dessa transformação: “Será que alguém em sã consciência acredita que essas pessoas estão perdendo o sono se preocupando com como essa transformação vai beneficiar as pessoas comuns?”
Embora a IA já esteja avançando sobre empregos de colarinho branco — como áreas de negócios, finanças, engenharia e gestão —, tarefas físicas ainda permanecem, em grande parte, fora de seu alcance. Um relatório recente da Anthropic aponta que atividades, como agricultura, construção, transporte e serviços alimentícios continuam difíceis de automatizar.
“Muitas tarefas… permanecem além do alcance da IA”, destaca o documento, citando desde podar árvores até representar clientes em tribunais.
Ainda assim, o CEO da Anthropic, Dario Amodei, argumenta que é um erro considerar o trabalho físico imune à disrupção tecnológica. Segundo ele, sistemas avançados de IA poderão acelerar o desenvolvimento de robôs e controlá-los no mundo real.
Para Musk, o robô Optimus será peça central dessa transformação. Ele acredita que a tecnologia levará a uma “renda alta universal”, resultado do crescimento contínuo da IA e da robótica. Em diversas ocasiões, inclusive recentemente, o empresário afirmou que, nesse futuro, trabalhar será uma escolha, não uma necessidade.
A Tesla afirma estar correndo para colocar o robô em produção em larga escala. Em publicação recente, a empresa declarou: “O Optmius será o maior produto já feito”.
Especialistas, no entanto, alertam para os impactos no curto prazo. Boloor destaca que a transição pode afetar o modelo de negócios atual da Tesla, já que “O antigo negócio está encolhendo, enquanto o novo não é suficientemente grande para preencher essa lacuna”.
Além disso, ele ressalta os efeitos sociais da automação: “A substituição de empregos é uma realidade muito presente”. E conclui: “Haverá perda contínua de empregos.”
A decisão da OpenAI de encerrar o Sora, rede social de vídeos gerados por IA, abriu espaço para movimentações rápidas no setor. E uma delas veio de Elon Musk: o bilionário está planejando uma atualização “épica” para o Grok Imagine, seu modelo de IA para geração de vídeos.
Pouco depois do anúncio da OpenAI (mais detalhes abaixo), Musk indicou no X (antigo Twitter) que está preparando uma atualização para seu próprio gerador de vídeos. “O próximo lançamento do Grok Imagine será épico. Estamos investindo pesado”, escreveu. Ele também compartilhou exemplos de vídeos gerados pela ferramenta.
Publicação de Musk vem após decisão da OpenAI de encerrar o Sora
O timing de Musk foi bem calculado. O bilionário ‘twittou’ sobre o Grok Imagine pouco depois da rival OpenAI ter anunciado o encerramento do Sora.
O movimento ocorre em um momento de reconfiguração estratégica no mercado de IA. A OpenAI justificou que a descontinuidade da rede social de vídeos de IA faz parte de um redirecionamento para produtos mais alinhados a geração de receita, como ferramentas de produtividade, programação e soluções corporativas. Com isso, a OpenAI passa a concentrar esforços em iniciativas consideradas mais estratégicas para seu futuro, especialmente diante de planos de abertura de capital.
O fim do Sora também teve impacto imediato em parcerias: a Disney, que havia firmado um acordo bilionário envolvendo o uso de personagens em conteúdos gerados por IA, decidiu abandonar o investimento. O Olhar Digital deu os detalhes aqui.
Enquanto isso, a xAI tenta avançar no segmento deixado pela rival. A aposta de Musk reforça a disputa crescente entre empresas de tecnologia pela liderança em ferramentas criativas baseadas em IA.
Três adolescentes do estado do Tennessee (EUA) — duas delas ainda menores de idade — processaram a empresa de inteligência artificial (IA) xAI, fundada por Elon Musk, alegando que ferramentas da companhia foram usadas para criar imagens sexualizadas delas quando eram menores. As acusações constam em uma ação judicial que atribui à empresa crimes, como distribuição, posse e produção com intenção de distribuir pornografia infantil.
Segundo a ação, uma mãe do leste do Tennessee procurou a polícia local após descobrir que fotos nuas de sua filha adolescente estavam circulando na internet. Ela afirma ter sido informada pelas autoridades de que as imagens teriam sido geradas com auxílio da xAI, startup de inteligência artificial que ela desconhecia até então.
De acordo com a investigação policial, uma pessoa presa em dezembro teria utilizado o Grok — ferramenta de IA da empresa — para editar fotografias da jovem, incluindo uma imagem retirada de sua conta no Instagram. Na manipulação, o suspeito teria removido digitalmente um biquíni azul da foto, “para retratá-la sem qualquer roupa”, conforme descrito no processo judicial protocolado nesta segunda-feira (16).
Adolescentes contra o Grok
A adolescente faz parte de um grupo de jovens do Tennessee que acusam a empresa de permitir que suas ferramentas de IA fossem usadas para transformar fotografias nas quais elas apareciam vestidas em imagens falsas de nudez;
As imagens manipuladas passaram a circular em plataformas, como Discord e Telegram, nos últimos meses;
Em alguns casos, segundo a denúncia, elas foram trocadas em salas de bate-papo online por outros materiais de abuso sexual infantil. O caso foi inicialmente revelado pelo The Washington Post;
A ação judicial foi registrada nesta segunda-feira (16) no tribunal federal do Distrito Norte da Califórnia;
O processo afirma que um único perpetrador reuniu imagens e vídeos de mais de 18 garotas — muitas delas estudantes da mesma escola — e alterou digitalmente parte desse material com o auxílio de IA;
Segundo os advogados, trata-se da primeira ação movida por vítimas menores de idade relacionada a um escândalo recente envolvendo ferramentas capazes de “despir” pessoas em fotos, recurso que teria gerado controvérsias envolvendo a xAI.
A mãe de uma das adolescentes, que falou sob condição de anonimato para preservar a privacidade da filha, afirmou que o episódio teve forte impacto emocional sobre a jovem, descrita como uma estudante sociável e atleta. “Isso definitivamente a colocou um pouco dentro de uma concha, algo que nunca tínhamos visto antes”, disse.
Os três autores do processo — incluindo duas menores — pedem indenizações por cada violação relacionada à pornografia infantil e buscam impedir que a empresa permita o uso de ferramentas de edição semelhantes às que foram utilizadas para alterar suas imagens.
Os advogados argumentam que a xAI criou um ambiente no qual a disseminação de material de abuso sexual infantil seria inevitável. Segundo a acusação, a tecnologia e a forma como a empresa divulgou suas ferramentas incentivavam a criação de imagens explícitas. No processo, os autores afirmam que “um modelo capaz de criar imagens sexualizadas de adultos não pode ser impedido de criar material de abuso sexual infantil envolvendo menores”.
A advogada Vanessa Baehr-Jones, do escritório Baehr-Jones Law, que representa os adolescentes em ação coletiva proposta, afirmou que o impacto sobre as vítimas pode ser permanente. “Esses jovens — essas crianças — estão enfrentando uma vida inteira com essas imagens sexualizadas do que parece ser o corpo de uma criança circulando na internet”, disse. “Isso não teria sido possível sem essa ferramenta que a xAI lançou, sabendo plenamente que esse material poderia ser gerado.”
Nem Musk nem a xAI responderam imediatamente a pedidos de comentário sobre o processo feitos pelo Post. Em janeiro, porém, Musk escreveu em uma publicação no X que não tinha conhecimento de imagens nuas de menores geradas pelo Grok. “Não tenho conhecimento de nenhuma imagem nua de menores gerada pelo Grok. Literalmente zero”, afirmou.
Segundo Musk, o chatbot apenas segue as solicitações feitas pelos usuários e recusaria produzir qualquer conteúdo ilegal. Ele acrescentou que ataques de “hacking adversarial” poderiam fazer a ferramenta agir de forma inesperada. “Se isso acontecer, corrigimos o bug imediatamente”, escreveu.
Na semana passada, Musk também afirmou em outra publicação que “se é permitido em um filme classificado como R [A-18 no Brasil], é permitido” pelas ferramentas de criação de imagens e vídeos do Grok.
Segundo Musk, chatbot apenas segue as solicitações feitas pelos usuários e recusaria produzir qualquer conteúdo ilegal (Imagem: Algi Febri Sugita/Shutterstock)
A ação judicial surge após a xAI enfrentar críticas por permitir que usuários “despissem” pessoas reais em fotografias usando recursos de edição disponíveis no Grok Imagine e em um modo chamado “Spicy”. Essas funcionalidades permitiam criar imagens sexualizadas de pessoas reais, retratando-as com roupas extremamente reveladoras — por exemplo, com peças tão pequenas quanto um fio dental.
Pesquisadores afirmam que milhões de imagens sexualizadas foram geradas com essas ferramentas, incluindo cerca de 23 mil fotos que aparentavam retratar crianças. O caso levou autoridades a abrir investigações, entre elas o procurador-geral da Califórnia, a Comissão Europeia e o regulador britânico de comunicações.
Em janeiro, a xAI informou que havia revertido algumas das ferramentas de edição em determinadas jurisdições, após já ter restringido anteriormente a geração de imagens apenas a usuários pagantes. Segundo reportagens do Post, a adoção de conteúdos sexualizados pelo Grok fazia parte de uma estratégia para atrair mais usuários para o chatbot.
A ação judicial afirma que a xAI cometeu diversas irregularidades, incluindo a criação de pornografia infantil e o lançamento de uma funcionalidade com falhas graves de design. Os autores alegam que a empresa permitiu conscientemente que suas ferramentas gerassem imagens sexualizadas de menores como parte de um esforço para monetizar a tecnologia de IA.
O processo também sustenta que editar imagens de crianças reais para produzir representações sexualizadas configura criação de pornografia infantil. Autoridades dos Estados Unidos já afirmaram anteriormente que representações sexualmente explícitas de crianças geradas por computador são ilegais.
Segundo a denúncia, “a xAI — e seu fundador Elon Musk — viram uma oportunidade de negócios: lucrar com a predação sexual de pessoas reais, incluindo crianças”.
As estudantes do Tennessee tomaram conhecimento das imagens explícitas no fim do ano passado. Uma delas, identificada no processo como “Jane Doe 1”, recebeu uma mensagem no Instagram informando que fotos sexualizadas dela estavam circulando no Discord.
De acordo com a ação, uma das imagens de abuso sexual infantil atribuídas a ela foi criada a partir de uma fotografia tirada durante o baile de boas-vindas da escola, em setembro de 2025. Outra imagem, em que ela aparece com os seios expostos, teria sido produzida a partir de uma foto do anuário escolar. A jovem “era menor de idade no período relevante”, afirma o processo.
Ela recebeu também um link para um servidor no Discord “que continha imagens e vídeos de pelo menos outras 18 garotas menores de idade, muitas das quais Jane Doe 1 reconheceu de sua escola”. Segundo o documento judicial, a polícia abriu, no ano passado, uma investigação criminal contra o responsável. Ele foi preso em dezembro, quando os investigadores também realizaram buscas em seu telefone.
Mesmo assim, as imagens continuaram circulando amplamente na internet. “Em chats de grupo no Telegram com centenas de outros usuários, [o perpetrador trocou] arquivos de material de abuso sexual infantil dela por conteúdo sexual explícito de outros menores”, diz a ação.
Os advogados afirmam ter consultado especialistas independentes que concluíram que as imagens foram geradas por IA — especificamente pelo Grok. Segundo a denúncia, o autor utilizou o chatbot e outras ferramentas que licenciam suas capacidades, incluindo aplicativos projetados para “despir pessoas”, para manipular fotos reais de menores. Esses aplicativos funcionariam como intermediários, levando os recursos do Grok a usuários que não acessam diretamente o site da ferramenta ou o aplicativo X.
“Em todos os casos, as imagens e vídeos reais enviados para os servidores dos réus não eram material ilegal, mas tornaram-se conteúdo ilícito apenas depois que a IA dos réus transformou os arquivos nos servidores da xAI para produzir e distribuir material de abuso sexual infantil”, afirma o processo.
Até fevereiro, as duas outras autoras da ação — ambas menores — descobriram, por meio da investigação criminal, que o suspeito também havia usado imagens delas para criar material de abuso sexual infantil.
Segundo os advogados, as consequências do episódio podem acompanhar as vítimas por décadas. A denúncia afirma que elas provavelmente receberão notificações do National Center for Missing & Exploited Children pelo resto da vida, informando que “réus criminais possuíram, receberam ou distribuíram arquivos de material de abuso sexual infantil que as retratam”.
Em entrevista ao Post, a advogada Annika K. Martin, principal responsável pelo caso, disse que gostaria de fazer uma série de perguntas diretamente ao fundador da xAI, ou seja, Musk.
“Como pai, você consegue imaginar seu filho — o rosto do seu filho — em imagens de atos sexuais depravados, inserido em vídeos de comportamento sexual grotesco?”, questionou. “A voz do seu filho em um vídeo gritando. Você consegue imaginar isso como pai? Consegue imaginar isso e se sentir bem com o que fez?”
A rede social X está investigando o funcionamento do seu chatbot de inteligência artificial, o Grok, após relatos de que a ferramenta estaria gerando publicações com conteúdos racistas e ofensivos. As informações foram divulgadas pela Sky News neste domingo (8).
De acordo com o repórter Rob Harris, da Sky News, as equipes de segurança do X trabalham com urgência para entender como o chatbot, desenvolvido pela empresa xAI, gerou mensagens de ódio em resposta a comandos feitos por usuários.
Histórico de Restrições
Esta não é a primeira vez que as ferramentas da xAI, empresa de Elon Musk, passam por vistorias. Governos e órgãos reguladores em diversos países têm pressionado a plataforma para criar barreiras contra conteúdos ilegais ou sexualmente explícitos gerados pela inteligência artificial.
Em resposta a essas pressões, a xAI já havia anunciado algumas mudanças em janeiro:
Edição de imagens: A empresa restringiu as opções de edição de fotos para os usuários do Grok.
Bloqueio por localização: Usuários em determinadas regiões foram impedidos de gerar imagens de pessoas com roupas reveladoras.
Segurança local: Essas restrições foram aplicadas em locais onde esse tipo de conteúdo é considerado ilegal, embora a empresa não tenha listado quais seriam esses países.
Próximos Passos
Até o momento, nem o X nem a xAI responderam oficialmente aos pedidos de comentário sobre a nova investigação. A Reuters informou que ainda não foi possível verificar de forma independente o vídeo citado na reportagem da Sky News.
As investigações atuais fazem parte de um movimento global de autoridades que buscam exigir salvaguardas e punições para conter a disseminação de materiais impróprios gerados por IA.
