Um ex-engenheiro da xAI, Devin Kim, entrou com um processo alegando ter sido demitido depois de levantar preocupações sobre a segurança do chatbotGrok, desenvolvido pela empresa de Elon Musk.
O caso envolve acusações de retaliação e falhas em mecanismos de segurança, explica o The Guardian. E surge num momento em que o setor de inteligência artificial volta a ser pressionado por temas de responsabilidade e controle.
Processo acusa retaliação após alertas sobre segurança da IA na xAI, empresa de inteligência artificial de Musk. Imagem: Algi Febri Sugita/Shutterstock – Imagem: Algi Febri Sugita/Shutterstock
As acusações contra a xAI
Na ação apresentada na Califórnia, Devin Kim afirma que foi afastado após insistir na criação de regras mais rígidas para o desenvolvimento do Grok. Segundo ele, os alertas sobre riscos da IA não foram levados a sério pela liderança da empresa.
O ponto central do processo é a forma como esses alertas teriam sido recebidos internamente. Kim sustenta que a falta de prioridade em segurança poderia gerar consequências graves. “O Sr. Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da IA, particularmente em relação ao Grok, praticamente garantia que a empresa cometeria atos ilegais, desde fomentar a discriminação até proliferar armas de destruição em massa”, afirma o documento.
Ele também diz que a demissão ocorreu pouco antes de uma apresentação interna sobre segurança da IA para executivos da empresa. Esse detalhe, segundo o engenheiro, reforça a tese de retaliação dentro da organização.
Processo contra xAI levanta debate sobre segurança em IA e acusa empresa de retaliação após críticas ao chatbot Grok. Imagem: miss.cabul/Shutterstock
Grok, investigações e pressão internacional
O caso não aparece sozinho. Ele se encaixa numa sequência de críticas e investigações envolvendo o Grok e suas ferramentas de geração de imagens.
Autoridades canadenses afirmam que o chatbot teria violado leis de privacidade ao permitir a criação de imagens manipuladas e sexualizadas sem consentimento. Isso levou a investigações formais e ajustes na plataforma.
E a pressão não ficou restrita a um único país. Reino Unido e Canadá passaram a monitorar com mais atenção conteúdos gerados por IA, especialmente aqueles envolvendo imagens sensíveis ou potencialmente abusivas.
Entre os problemas mais citados nessas investigações, aparecem situações recorrentes:
deepfakes sexualizados criados sem consentimento e circulando na plataforma
uso indevido de imagens de pessoas reais em contextos manipulados
riscos diretos à privacidade de usuários comuns
possibilidade de envolvimento de menores em conteúdos gerados por IA
cobrança por regras mais duras de moderação e controle
O bilionário Elon Musk negou ter conhecimento sobre conteúdos ilegais gerados pelo sistema. “Não tinha conhecimento de nenhuma imagem de menores de idade nuas gerada pelo Grok. Literalmente zero.”, afirmou em resposta às acusações.
“Deepfakes sexualizados” e privacidade em risco: processo contra a xAI coloca o Grok no centro da crise de IA. Imagem: Mihai Surdu/Shutterstock
O impacto no setor de inteligência artificial
A xAI, criada por Musk em 2023 como alternativa a outras empresas do setor, já vinha sendo citada em debates sobre segurança e governança da inteligência artificial.
O caso de Devin Kim só adiciona mais tensão a esse cenário. E reforça um conflito que vem se tornando cada vez mais comum no setor: a disputa entre acelerar o desenvolvimento e criar mecanismos reais de controle.
Também chama atenção o fato de Kim ter passado a atuar em um centro voltado à segurança em IA, o que dá ainda mais peso simbólico ao episódio.
No centro dessa disputa, fica uma pergunta que ainda não tem resposta clara: até que ponto as empresas estão preparadas para lidar com os riscos das próprias tecnologias que estão construindo.
Um ex-engenheiro da xAI, empresa de inteligência artificial fundada por Elon Musk em 2023, abriu um processo judicial na Califórnia alegando que foi demitido após levantar preocupações sobre a segurança no desenvolvimento de sistemas de IA. Devin Kim afirma que sua atuação interna buscava reforçar mecanismos de proteção no chatbot Grok, mas que suas advertências teriam sido ignoradas pela liderança da companhia.
De acordo com a ação apresentada na última terça-feira (09), Kim sustenta que suas tentativas de alertar sobre possíveis riscos associados à tecnologia resultaram em retaliação dentro da empresa. Ele alega, ainda, que sua dispensa ocorreu em setembro do ano passado, pouco antes de uma apresentação que faria sobre segurança em inteligência artificial para executivos da organização.
Acusações envolvem práticas internas e disputa sobre segurança em IA
xAI e SpaceX – Imagem: Sergii Chernov – Shutterstock / Edição: Ana Figueiredo – Olhar Digital
No detalhamento da ação, Devin Kim afirma que ingressou na xAI em 2024 como um dos primeiros funcionários e que, em poucos meses, chegou a ocupar posição de liderança. Segundo ele, havia expectativa de implementação de protocolos rigorosos de segurança, alinhados ao discurso inicial de Elon Musk ao criar a empresa como alternativa considerada mais segura em relação a outras organizações do setor.
O engenheiro sustenta que essas diretrizes não teriam sido seguidas internamente. Ele afirma que seu supervisor, identificado como Jimmy Ba, cofundador da xAI, teria rejeitado propostas de mecanismos de proteção e ignorado alertas sobre riscos mais amplos ligados ao uso da inteligência artificial, incluindo potenciais impactos sociais e legais.
Kim também relata que suas preocupações incluíam a possibilidade de sistemas como o Grok contribuírem para problemas mais graves, como discriminação e até facilitação de armas de destruição em massa, segundo o conteúdo do processo.
Nomeação em entidade de segurança em IA ocorre após saída
Elon Musk – Imagem: FotoField/Shutterstock
Na semana anterior à divulgação da ação, o ex-engenheiro foi nomeado para liderar uma organização sem fins lucrativos dedicada ao estudo de riscos da inteligência artificial, o Center for AI Safety. A indicação ocorreu após sua saída da xAI e passou a ser mencionada no contexto do debate público sobre segurança em IA.
O processo judicial também contextualiza a disputa dentro de um cenário mais amplo envolvendo empresas de Elon Musk. A ação menciona que a SpaceX e outros empreendimentos do empresário enfrentam, há anos, alegações relacionadas à segurança operacional e às condições de trabalho, incluindo registros de acidentes em operações da companhia espacial, segundo investigação jornalística citada no texto-base.
Histórico de disputas e contexto envolvendo Musk e OpenAI
A fundação da xAI por Elon Musk em 2023 é descrita no processo como parte de uma iniciativa para criar uma alternativa mais segura no setor de inteligência artificial.
O texto também relembra que Musk esteve entre os fundadores da OpenAI, embora tenha posteriormente entrado em disputa judicial contra a organização, alegando desvio de sua missão original, ação que acabou rejeitada por um júri no ano anterior.
Até o momento, xAI e SpaceX não se manifestaram publicamente sobre as acusações apresentadas por Devin Kim.
A deputada trabalhista britânica Jess Asato entrou com uma ação judicial contra a xAI, empresa de inteligência artificial (IA) ligada a Elon Musk, após afirmar que a ferramenta Grok foi utilizada para criar imagens falsas e sexualizadas dela sem consentimento. O caso foi levado à Alta Corte de Londres e pode se tornar um marco para definir até que ponto empresas de IA podem ser responsabilizadas pelo conteúdo gerado por seus sistemas.
Asato, que representa o distrito de Lowestoft no Parlamento do Reino Unido, afirmou que tomou conhecimento das imagens em janeiro. Segundo ela, a ferramenta produziu representações suas usando biquíni sem autorização, algo que classificou como uma experiência “violadora”.
Parlamentar britânica processou a xAI pela criação de imagens falsas suas pelo Grok – Imagem: Algi Febri Sugita / Shutterstock
Ação judicial questiona responsabilidade da xAI
De acordo com informações apresentadas no processo, a deputada acusa a xAI de descumprir leis relacionadas à proteção de dados e ao uso indevido de informações privadas ao permitir que usuários utilizassem o Grok para criar esse tipo de conteúdo.
A ação sustenta que a empresa deveria ter adotado mecanismos de proteção para impedir a geração de imagens sexualizadas de pessoas reais sem consentimento.
Em entrevista ao Financial Times, Asato afirmou que, além das imagens em biquíni, a ferramenta também teria produzido um vídeo em que ela aparecia sendo cloroformizada e preparada para sofrer uma agressão sexual.
Segundo a parlamentar, o material começou a ser criado depois que ela criticou publicamente a produção de imagens sexualizadas não consensuais geradas por inteligência artificial.
“Minha esperança é que isso reequilibre os direitos dos indivíduos frente a empresas de tecnologia muito grandes que deveriam ter implementado salvaguardas antes de causar danos a mulheres e crianças”, declarou Asato ao Financial Times.
Caso semelhante já foi apresentado nos Estados Unidos
O processo movido por Jess Asato ocorre após uma ação semelhante apresentada no estado de Nova York por Ashley St Clair, mãe de um dos filhos de Elon Musk.
Ela alegou que o Grok também foi utilizado para criar imagens explícitas falsas envolvendo sua imagem. Entre os conteúdos citados na ação estaria uma representação em que ela aparecia menor de idade.
Para Ravi Naik, advogado que representa Asato, a discussão central do caso está na responsabilidade dos desenvolvedores pela forma como suas ferramentas são projetadas e disponibilizadas ao público.
“O princípio central deste caso é que os desenvolvedores devem responder pela maneira como projetam e implementam suas ferramentas”, afirmou o advogado ao Financial Times.
Governo britânico e regulador já investigaram o caso
O uso do Grok para gerar grandes quantidades de imagens sexualizadas de mulheres reais e, em alguns casos, de crianças, já havia provocado reações do governo britânico no início do ano.
Em janeiro, autoridades do Reino Unido ameaçaram adotar medidas contra a plataforma X após a circulação desse tipo de conteúdo. O órgão regulador de mídia Ofcom também abriu uma investigação sobre o assunto.
Inicialmente, a empresa de Musk informou que limitaria a criação dessas imagens a usuários pagantes da rede social. A medida foi criticada pelo primeiro-ministro Keir Starmer, que a classificou como “horrível”.
Poucos dias depois, o X anunciou que havia interrompido completamente a função que permitia ao Grok editar fotografias de pessoas reais para exibi-las usando roupas mais reveladoras.
Outros problemas envolvendo o Grok
O Grok também esteve envolvido em outro episódio de repercussão no Reino Unido. A ferramenta identificou incorretamente dois policiais de Hampshire como participantes da prisão de Henry Nowak.
Uma das profissionais citadas erroneamente foi Christi Hill, que trabalhou como policial por 12 anos. Segundo relatos, ela precisou se deslocar para um local seguro após passar a ser alvo de publicações na plataforma X.
Diversas postagens pediam que Hill e outro policial, também identificado de forma incorreta pela inteligência artificial, fossem localizados, presos ou até sofressem atos de violência.
Novos dados revelam que o chatbot Grok, desenvolvido pela xAI de Elon Musk, teve presença quase inexistente no uso de inteligência artificial pelo governo americano em 2024. Um relatório da Reuters analisou mais de 400 exemplos de uso governamental de IA e encontrou apenas três menções ao Grok ou à xAI.
Em contraste, os modelos da OpenAI aparecem em mais de 230 exemplos, enquanto Google e Anthropic figuram dezenas de vezes cada. Quando o Grok aparece, é apenas para tarefas básicas como elaboração de documentos e gerenciamento de mídias sociais, sempre acompanhado de concorrentes como Microsoft e OpenAI.
Desempenho limitado em projetos governamentais
Em uma base de dados separada com projetos mais ambiciosos mas menor número de usuários, o padrão se repete. O Grok aparece apenas três vezes: duas para tarefas administrativas rotineiras na Election Assistance Commission e uma no Departamento de Energia, em um projeto piloto no Lawrence Livermore National Laboratory para resumos de documentos e pesquisas gerais.
A Reuters encontrou 140 entradas envolvendo Microsoft e OpenAI nesta base, além de pelo menos 10 entradas para Anthropic e dezenas para o Gemini do Google. Os dados não capturam agências de inteligência ou o Pentágono, onde a xAI conseguiu um contrato de US$ 200 milhões no ano passado e foi recentemente autorizada a operar em redes classificadas.
Fontes entrevistadas pela Reuters sugerem que a explicação é simples: o Grok não é tão bom quanto seus rivais. “Simplesmente não é o melhor modelo disponível”, disse uma fonte não identificada do Pentágono, acrescentando que funcionários tendem a preferir Gemini ou Claude.
Rankings públicos de modelos de IA corroboram essa visão. Anthropic, Google e OpenAI dominam as primeiras posições, enquanto o Grok raramente aparece entre os 10 melhores, exceto ocasionalmente em categorias de imagem ou vídeo.
A SpaceX incorporou a xAI; ambas são de Elon Musk – Imagem: Samuel Boivin/Shutterstock
Risco para o IPO da SpaceX
A situação é problemática para Musk e ainda mais para a SpaceX, que absorveu a xAI no início deste ano. Os documentos de IPO da empresa de foguetes mostram que ela colocou a IA – e especificamente o Grok – no centro de sua proposta para investidores.
A SpaceX afirma ter identificado “o maior mercado endereçável acionável da história humana”: uma oportunidade impressionante de US$ 28,5 trilhões. Praticamente todo esse valor estimado vem da IA, particularmente IA empresarial, não de foguetes ou satélites.
O desempenho do Grok em agências governamentais pode indicar como ele se sai em outros locais de trabalho. Como parte do esforço da xAI para conquistar clientes empresariais, Musk supostamente pressionou bancos a comprar assinaturas do Grok se quisessem participar do IPO da SpaceX.
Segundo a agência de notícias, em sua versão voltada ao consumidor, o Grok é deliberadamente desagradável. Musk posicionou o chatbot como uma alternativa menos tendenciosa e menos censurada a ferramentas como ChatGPT, mas isso se traduziu em um produto com padrões evidenciais frouxos, obsessão doentia por Musk e longo histórico de resultados ofensivos, conspiratórios e sexualizados.
O histórico do Grok inclui elogiar Adolf Hitler, questionar o número de mortos do Holocausto, espalhar milhões de deepfakes sexualizados não consensuais por todo o X, incluindo de crianças, e alimentar uma imitação racista e transfóbica da Wikipedia. Houve também a vez em que se chamou de “MechaHitler”.
A SpaceX parece entender o problema. Em seus documentos, a empresa alertou que os modos “picantes” ou “descontrolados” do Grok carregam “riscos elevados”, incluindo danos à reputação, escrutínio regulatório e processos judiciais. Como isso vai impactar o IPO? Vamos saber em breve.
Elon Musk está exigindo que bancos e outros assessores envolvidos na oferta pública inicial de ações (IPO, na sigla em inglês) da SpaceX adquiram assinaturas do Grok, seu chatbot de inteligência artificial (IA), segundo informações publicadas pelo The New York Times com base em fontes familiarizadas com o assunto.
De acordo com a reportagem, a exigência se estende a instituições financeiras, escritórios de advocacia, auditores e demais consultores que desejam participar de um dos maiores IPOs da história. Algumas dessas instituições já concordaram em gastar dezenas de milhões de dólares por ano com o serviço e iniciaram a integração do Grok em seus sistemas de tecnologia da informação.
Entre os bancos que atuam como coordenadores da oferta — conhecidos como bookrunners — estão Morgan Stanley, Goldman Sachs, JPMorgan Chase, Bank of America e Citigroup. Essas instituições desempenham papel central na estruturação e condução da operação.
Nem Musk nem SpaceX responderam aos pedidos de comentário do Times. JPMorgan Chase, Goldman Sachs, Citigroup e Bank of America se recusaram a comentar, enquanto o Morgan Stanley não respondeu imediatamente às solicitações.
IPO da SpaceX chega, mas a que custo?
A iniciativa ocorre em meio a expectativas elevadas para a abertura de capital da SpaceX;
Segundo a Bloomberg, a empresa elevou sua meta de valuation para mais de US$ 2 trilhões (R$ 10,3 trilhões), o que pode torná-la a maior listagem da história do mercado acionário;
A companhia pretende levantar cerca de US$ 75 bilhões (R$ 386,6 bilhões), superando grandes IPOs anteriores, como o da Saudi Aramco, em 2019, e o do Alibaba, em 2014;
Outras estimativas apontam que a oferta pode arrecadar mais de US$ 50 bilhões (R$ 257,7 bilhões), com avaliação acima de US$ 1 trilhão (R$ 5,1 trilhões). Nesse cenário, os bancos envolvidos poderiam gerar mais de US$ 500 milhões (R$ 2,5 bilhões) em taxas de assessoria.
A exigência de Musk não é totalmente incomum em grandes transações, nas quais empresas frequentemente fazem demandas a seus assessores financeiros. Ainda assim, a obrigatoriedade de adquirir um produto específico chama atenção pelo grau de imposição.
Segundo pessoas com conhecimento das negociações, a compra das assinaturas do Grok não foi apenas um gesto de boa vontade por parte dos bancos, mas uma condição imposta por Musk. O empresário também teria solicitado que os bancos anunciassem no X, de sua propriedade, embora essa exigência tenha sido menos enfática.
IPO da SpaceX promete ser um dos maiores da história – Imagem: photo_gonzo/Shutterstock
A estratégia evidencia a influência de Musk sobre o setor financeiro, especialmente em um momento em que Wall Street busca grandes operações após um período de baixa atividade em IPOs relevantes.
O Grok faz parte das iniciativas de IA associadas à SpaceX, que se fundiu à xAI em fevereiro. Apesar da aposta, o chatbot ainda ocupa uma posição inferior no mercado, atrás de concorrentes, como ChatGPT, Claude e Gemini.
Musk tem promovido o Grok como uma alternativa ao que considera excessos de correção política em outras plataformas, afirmando que o chatbot não seria “woke”.
Ainda assim, o sistema esteve envolvido em controvérsias recentes, incluindo a disseminação de conteúdo antissemita, elogios a Adolf Hitler e a geração de imagens sexualizadas sem consentimento. Países, como Indonésia e Malásia, proibiram o uso do Grok, enquanto outras nações abriram investigações.
Mesmo diante das críticas, Musk continua a promover o chatbot em sua rede social, incentivando seus seguidores a utilizarem a ferramenta. Em uma das mensagens republicadas por ele, lê-se: “Grok & xAI estão sem dúvida crescendo mais rápido do que qualquer outra IA.”
Atualmente, a maior parte da receita do Grok vem de assinaturas individuais. A adesão dos bancos pode fortalecer a vertente corporativa do produto antes da abertura de capital da SpaceX. Antes da fusão com a SpaceX, a xAI registrou cerca de US$ 1 bilhão (R$ 5,1 bilhões) em receita com suas operações de IA, embora não tenha detalhado a divisão entre clientes corporativos e consumidores finais.
Outro destaque financeiro da SpaceX é a Starlink, serviço de internet via satélite, considerado o principal ativo da empresa. Documentos financeiros indicam que o Starlink gerou aproximadamente US$ 8 bilhões (R$ 41,2 bilhões) em receita em 2024, além de bilhões de dólares em fluxo de caixa livre.
Nos últimos meses, banqueiros têm trabalhado nos escritórios da SpaceX, na região de Los Angeles, auxiliando na preparação dos documentos para o IPO. A empresa apresentou confidencialmente os papéis à Securities and Exchange Commission (SEC), mas não incluiu os nomes dos bancos envolvidos no registro.
Ainda não está definido qual instituição assumirá o papel principal na operação, posição que costuma garantir maior prestígio e participação nas taxas geradas pela oferta.
A decisão da OpenAI de encerrar o Sora, rede social de vídeos gerados por IA, abriu espaço para movimentações rápidas no setor. E uma delas veio de Elon Musk: o bilionário está planejando uma atualização “épica” para o Grok Imagine, seu modelo de IA para geração de vídeos.
Pouco depois do anúncio da OpenAI (mais detalhes abaixo), Musk indicou no X (antigo Twitter) que está preparando uma atualização para seu próprio gerador de vídeos. “O próximo lançamento do Grok Imagine será épico. Estamos investindo pesado”, escreveu. Ele também compartilhou exemplos de vídeos gerados pela ferramenta.
Publicação de Musk vem após decisão da OpenAI de encerrar o Sora
O timing de Musk foi bem calculado. O bilionário ‘twittou’ sobre o Grok Imagine pouco depois da rival OpenAI ter anunciado o encerramento do Sora.
O movimento ocorre em um momento de reconfiguração estratégica no mercado de IA. A OpenAI justificou que a descontinuidade da rede social de vídeos de IA faz parte de um redirecionamento para produtos mais alinhados a geração de receita, como ferramentas de produtividade, programação e soluções corporativas. Com isso, a OpenAI passa a concentrar esforços em iniciativas consideradas mais estratégicas para seu futuro, especialmente diante de planos de abertura de capital.
O fim do Sora também teve impacto imediato em parcerias: a Disney, que havia firmado um acordo bilionário envolvendo o uso de personagens em conteúdos gerados por IA, decidiu abandonar o investimento. O Olhar Digital deu os detalhes aqui.
Enquanto isso, a xAI tenta avançar no segmento deixado pela rival. A aposta de Musk reforça a disputa crescente entre empresas de tecnologia pela liderança em ferramentas criativas baseadas em IA.
Três adolescentes do estado do Tennessee (EUA) — duas delas ainda menores de idade — processaram a empresa de inteligência artificial (IA) xAI, fundada por Elon Musk, alegando que ferramentas da companhia foram usadas para criar imagens sexualizadas delas quando eram menores. As acusações constam em uma ação judicial que atribui à empresa crimes, como distribuição, posse e produção com intenção de distribuir pornografia infantil.
Segundo a ação, uma mãe do leste do Tennessee procurou a polícia local após descobrir que fotos nuas de sua filha adolescente estavam circulando na internet. Ela afirma ter sido informada pelas autoridades de que as imagens teriam sido geradas com auxílio da xAI, startup de inteligência artificial que ela desconhecia até então.
De acordo com a investigação policial, uma pessoa presa em dezembro teria utilizado o Grok — ferramenta de IA da empresa — para editar fotografias da jovem, incluindo uma imagem retirada de sua conta no Instagram. Na manipulação, o suspeito teria removido digitalmente um biquíni azul da foto, “para retratá-la sem qualquer roupa”, conforme descrito no processo judicial protocolado nesta segunda-feira (16).
Adolescentes contra o Grok
A adolescente faz parte de um grupo de jovens do Tennessee que acusam a empresa de permitir que suas ferramentas de IA fossem usadas para transformar fotografias nas quais elas apareciam vestidas em imagens falsas de nudez;
As imagens manipuladas passaram a circular em plataformas, como Discord e Telegram, nos últimos meses;
Em alguns casos, segundo a denúncia, elas foram trocadas em salas de bate-papo online por outros materiais de abuso sexual infantil. O caso foi inicialmente revelado pelo The Washington Post;
A ação judicial foi registrada nesta segunda-feira (16) no tribunal federal do Distrito Norte da Califórnia;
O processo afirma que um único perpetrador reuniu imagens e vídeos de mais de 18 garotas — muitas delas estudantes da mesma escola — e alterou digitalmente parte desse material com o auxílio de IA;
Segundo os advogados, trata-se da primeira ação movida por vítimas menores de idade relacionada a um escândalo recente envolvendo ferramentas capazes de “despir” pessoas em fotos, recurso que teria gerado controvérsias envolvendo a xAI.
A mãe de uma das adolescentes, que falou sob condição de anonimato para preservar a privacidade da filha, afirmou que o episódio teve forte impacto emocional sobre a jovem, descrita como uma estudante sociável e atleta. “Isso definitivamente a colocou um pouco dentro de uma concha, algo que nunca tínhamos visto antes”, disse.
Os três autores do processo — incluindo duas menores — pedem indenizações por cada violação relacionada à pornografia infantil e buscam impedir que a empresa permita o uso de ferramentas de edição semelhantes às que foram utilizadas para alterar suas imagens.
Os advogados argumentam que a xAI criou um ambiente no qual a disseminação de material de abuso sexual infantil seria inevitável. Segundo a acusação, a tecnologia e a forma como a empresa divulgou suas ferramentas incentivavam a criação de imagens explícitas. No processo, os autores afirmam que “um modelo capaz de criar imagens sexualizadas de adultos não pode ser impedido de criar material de abuso sexual infantil envolvendo menores”.
A advogada Vanessa Baehr-Jones, do escritório Baehr-Jones Law, que representa os adolescentes em ação coletiva proposta, afirmou que o impacto sobre as vítimas pode ser permanente. “Esses jovens — essas crianças — estão enfrentando uma vida inteira com essas imagens sexualizadas do que parece ser o corpo de uma criança circulando na internet”, disse. “Isso não teria sido possível sem essa ferramenta que a xAI lançou, sabendo plenamente que esse material poderia ser gerado.”
Nem Musk nem a xAI responderam imediatamente a pedidos de comentário sobre o processo feitos pelo Post. Em janeiro, porém, Musk escreveu em uma publicação no X que não tinha conhecimento de imagens nuas de menores geradas pelo Grok. “Não tenho conhecimento de nenhuma imagem nua de menores gerada pelo Grok. Literalmente zero”, afirmou.
Segundo Musk, o chatbot apenas segue as solicitações feitas pelos usuários e recusaria produzir qualquer conteúdo ilegal. Ele acrescentou que ataques de “hacking adversarial” poderiam fazer a ferramenta agir de forma inesperada. “Se isso acontecer, corrigimos o bug imediatamente”, escreveu.
Na semana passada, Musk também afirmou em outra publicação que “se é permitido em um filme classificado como R [A-18 no Brasil], é permitido” pelas ferramentas de criação de imagens e vídeos do Grok.
Segundo Musk, chatbot apenas segue as solicitações feitas pelos usuários e recusaria produzir qualquer conteúdo ilegal (Imagem: Algi Febri Sugita/Shutterstock)
A ação judicial surge após a xAI enfrentar críticas por permitir que usuários “despissem” pessoas reais em fotografias usando recursos de edição disponíveis no Grok Imagine e em um modo chamado “Spicy”. Essas funcionalidades permitiam criar imagens sexualizadas de pessoas reais, retratando-as com roupas extremamente reveladoras — por exemplo, com peças tão pequenas quanto um fio dental.
Pesquisadores afirmam que milhões de imagens sexualizadas foram geradas com essas ferramentas, incluindo cerca de 23 mil fotos que aparentavam retratar crianças. O caso levou autoridades a abrir investigações, entre elas o procurador-geral da Califórnia, a Comissão Europeia e o regulador britânico de comunicações.
Em janeiro, a xAI informou que havia revertido algumas das ferramentas de edição em determinadas jurisdições, após já ter restringido anteriormente a geração de imagens apenas a usuários pagantes. Segundo reportagens do Post, a adoção de conteúdos sexualizados pelo Grok fazia parte de uma estratégia para atrair mais usuários para o chatbot.
A ação judicial afirma que a xAI cometeu diversas irregularidades, incluindo a criação de pornografia infantil e o lançamento de uma funcionalidade com falhas graves de design. Os autores alegam que a empresa permitiu conscientemente que suas ferramentas gerassem imagens sexualizadas de menores como parte de um esforço para monetizar a tecnologia de IA.
O processo também sustenta que editar imagens de crianças reais para produzir representações sexualizadas configura criação de pornografia infantil. Autoridades dos Estados Unidos já afirmaram anteriormente que representações sexualmente explícitas de crianças geradas por computador são ilegais.
Segundo a denúncia, “a xAI — e seu fundador Elon Musk — viram uma oportunidade de negócios: lucrar com a predação sexual de pessoas reais, incluindo crianças”.
As estudantes do Tennessee tomaram conhecimento das imagens explícitas no fim do ano passado. Uma delas, identificada no processo como “Jane Doe 1”, recebeu uma mensagem no Instagram informando que fotos sexualizadas dela estavam circulando no Discord.
De acordo com a ação, uma das imagens de abuso sexual infantil atribuídas a ela foi criada a partir de uma fotografia tirada durante o baile de boas-vindas da escola, em setembro de 2025. Outra imagem, em que ela aparece com os seios expostos, teria sido produzida a partir de uma foto do anuário escolar. A jovem “era menor de idade no período relevante”, afirma o processo.
Ela recebeu também um link para um servidor no Discord “que continha imagens e vídeos de pelo menos outras 18 garotas menores de idade, muitas das quais Jane Doe 1 reconheceu de sua escola”. Segundo o documento judicial, a polícia abriu, no ano passado, uma investigação criminal contra o responsável. Ele foi preso em dezembro, quando os investigadores também realizaram buscas em seu telefone.
Mesmo assim, as imagens continuaram circulando amplamente na internet. “Em chats de grupo no Telegram com centenas de outros usuários, [o perpetrador trocou] arquivos de material de abuso sexual infantil dela por conteúdo sexual explícito de outros menores”, diz a ação.
Os advogados afirmam ter consultado especialistas independentes que concluíram que as imagens foram geradas por IA — especificamente pelo Grok. Segundo a denúncia, o autor utilizou o chatbot e outras ferramentas que licenciam suas capacidades, incluindo aplicativos projetados para “despir pessoas”, para manipular fotos reais de menores. Esses aplicativos funcionariam como intermediários, levando os recursos do Grok a usuários que não acessam diretamente o site da ferramenta ou o aplicativo X.
“Em todos os casos, as imagens e vídeos reais enviados para os servidores dos réus não eram material ilegal, mas tornaram-se conteúdo ilícito apenas depois que a IA dos réus transformou os arquivos nos servidores da xAI para produzir e distribuir material de abuso sexual infantil”, afirma o processo.
Até fevereiro, as duas outras autoras da ação — ambas menores — descobriram, por meio da investigação criminal, que o suspeito também havia usado imagens delas para criar material de abuso sexual infantil.
Segundo os advogados, as consequências do episódio podem acompanhar as vítimas por décadas. A denúncia afirma que elas provavelmente receberão notificações do National Center for Missing & Exploited Children pelo resto da vida, informando que “réus criminais possuíram, receberam ou distribuíram arquivos de material de abuso sexual infantil que as retratam”.
Em entrevista ao Post, a advogada Annika K. Martin, principal responsável pelo caso, disse que gostaria de fazer uma série de perguntas diretamente ao fundador da xAI, ou seja, Musk.
“Como pai, você consegue imaginar seu filho — o rosto do seu filho — em imagens de atos sexuais depravados, inserido em vídeos de comportamento sexual grotesco?”, questionou. “A voz do seu filho em um vídeo gritando. Você consegue imaginar isso como pai? Consegue imaginar isso e se sentir bem com o que fez?”
A rede social X está investigando o funcionamento do seu chatbot de inteligência artificial, o Grok, após relatos de que a ferramenta estaria gerando publicações com conteúdos racistas e ofensivos. As informações foram divulgadas pela Sky News neste domingo (8).
De acordo com o repórter Rob Harris, da Sky News, as equipes de segurança do X trabalham com urgência para entender como o chatbot, desenvolvido pela empresa xAI, gerou mensagens de ódio em resposta a comandos feitos por usuários.
Histórico de Restrições
Esta não é a primeira vez que as ferramentas da xAI, empresa de Elon Musk, passam por vistorias. Governos e órgãos reguladores em diversos países têm pressionado a plataforma para criar barreiras contra conteúdos ilegais ou sexualmente explícitos gerados pela inteligência artificial.
Em resposta a essas pressões, a xAI já havia anunciado algumas mudanças em janeiro:
Edição de imagens: A empresa restringiu as opções de edição de fotos para os usuários do Grok.
Bloqueio por localização: Usuários em determinadas regiões foram impedidos de gerar imagens de pessoas com roupas reveladoras.
Segurança local: Essas restrições foram aplicadas em locais onde esse tipo de conteúdo é considerado ilegal, embora a empresa não tenha listado quais seriam esses países.
Próximos Passos
Até o momento, nem o X nem a xAI responderam oficialmente aos pedidos de comentário sobre a nova investigação. A Reuters informou que ainda não foi possível verificar de forma independente o vídeo citado na reportagem da Sky News.
As investigações atuais fazem parte de um movimento global de autoridades que buscam exigir salvaguardas e punições para conter a disseminação de materiais impróprios gerados por IA.
