Um ex-engenheiro da xAI, Devin Kim, entrou com um processo alegando ter sido demitido depois de levantar preocupações sobre a segurança do chatbotGrok, desenvolvido pela empresa de Elon Musk.
O caso envolve acusações de retaliação e falhas em mecanismos de segurança, explica o The Guardian. E surge num momento em que o setor de inteligência artificial volta a ser pressionado por temas de responsabilidade e controle.
Processo acusa retaliação após alertas sobre segurança da IA na xAI, empresa de inteligência artificial de Musk. Imagem: Algi Febri Sugita/Shutterstock – Imagem: Algi Febri Sugita/Shutterstock
As acusações contra a xAI
Na ação apresentada na Califórnia, Devin Kim afirma que foi afastado após insistir na criação de regras mais rígidas para o desenvolvimento do Grok. Segundo ele, os alertas sobre riscos da IA não foram levados a sério pela liderança da empresa.
O ponto central do processo é a forma como esses alertas teriam sido recebidos internamente. Kim sustenta que a falta de prioridade em segurança poderia gerar consequências graves. “O Sr. Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da IA, particularmente em relação ao Grok, praticamente garantia que a empresa cometeria atos ilegais, desde fomentar a discriminação até proliferar armas de destruição em massa”, afirma o documento.
Ele também diz que a demissão ocorreu pouco antes de uma apresentação interna sobre segurança da IA para executivos da empresa. Esse detalhe, segundo o engenheiro, reforça a tese de retaliação dentro da organização.
Processo contra xAI levanta debate sobre segurança em IA e acusa empresa de retaliação após críticas ao chatbot Grok. Imagem: miss.cabul/Shutterstock
Grok, investigações e pressão internacional
O caso não aparece sozinho. Ele se encaixa numa sequência de críticas e investigações envolvendo o Grok e suas ferramentas de geração de imagens.
Autoridades canadenses afirmam que o chatbot teria violado leis de privacidade ao permitir a criação de imagens manipuladas e sexualizadas sem consentimento. Isso levou a investigações formais e ajustes na plataforma.
E a pressão não ficou restrita a um único país. Reino Unido e Canadá passaram a monitorar com mais atenção conteúdos gerados por IA, especialmente aqueles envolvendo imagens sensíveis ou potencialmente abusivas.
Entre os problemas mais citados nessas investigações, aparecem situações recorrentes:
deepfakes sexualizados criados sem consentimento e circulando na plataforma
uso indevido de imagens de pessoas reais em contextos manipulados
riscos diretos à privacidade de usuários comuns
possibilidade de envolvimento de menores em conteúdos gerados por IA
cobrança por regras mais duras de moderação e controle
O bilionário Elon Musk negou ter conhecimento sobre conteúdos ilegais gerados pelo sistema. “Não tinha conhecimento de nenhuma imagem de menores de idade nuas gerada pelo Grok. Literalmente zero.”, afirmou em resposta às acusações.
“Deepfakes sexualizados” e privacidade em risco: processo contra a xAI coloca o Grok no centro da crise de IA. Imagem: Mihai Surdu/Shutterstock
O impacto no setor de inteligência artificial
A xAI, criada por Musk em 2023 como alternativa a outras empresas do setor, já vinha sendo citada em debates sobre segurança e governança da inteligência artificial.
O caso de Devin Kim só adiciona mais tensão a esse cenário. E reforça um conflito que vem se tornando cada vez mais comum no setor: a disputa entre acelerar o desenvolvimento e criar mecanismos reais de controle.
Também chama atenção o fato de Kim ter passado a atuar em um centro voltado à segurança em IA, o que dá ainda mais peso simbólico ao episódio.
No centro dessa disputa, fica uma pergunta que ainda não tem resposta clara: até que ponto as empresas estão preparadas para lidar com os riscos das próprias tecnologias que estão construindo.
Um ex-engenheiro da xAI, empresa de inteligência artificial fundada por Elon Musk em 2023, abriu um processo judicial na Califórnia alegando que foi demitido após levantar preocupações sobre a segurança no desenvolvimento de sistemas de IA. Devin Kim afirma que sua atuação interna buscava reforçar mecanismos de proteção no chatbot Grok, mas que suas advertências teriam sido ignoradas pela liderança da companhia.
De acordo com a ação apresentada na última terça-feira (09), Kim sustenta que suas tentativas de alertar sobre possíveis riscos associados à tecnologia resultaram em retaliação dentro da empresa. Ele alega, ainda, que sua dispensa ocorreu em setembro do ano passado, pouco antes de uma apresentação que faria sobre segurança em inteligência artificial para executivos da organização.
Acusações envolvem práticas internas e disputa sobre segurança em IA
xAI e SpaceX – Imagem: Sergii Chernov – Shutterstock / Edição: Ana Figueiredo – Olhar Digital
No detalhamento da ação, Devin Kim afirma que ingressou na xAI em 2024 como um dos primeiros funcionários e que, em poucos meses, chegou a ocupar posição de liderança. Segundo ele, havia expectativa de implementação de protocolos rigorosos de segurança, alinhados ao discurso inicial de Elon Musk ao criar a empresa como alternativa considerada mais segura em relação a outras organizações do setor.
O engenheiro sustenta que essas diretrizes não teriam sido seguidas internamente. Ele afirma que seu supervisor, identificado como Jimmy Ba, cofundador da xAI, teria rejeitado propostas de mecanismos de proteção e ignorado alertas sobre riscos mais amplos ligados ao uso da inteligência artificial, incluindo potenciais impactos sociais e legais.
Kim também relata que suas preocupações incluíam a possibilidade de sistemas como o Grok contribuírem para problemas mais graves, como discriminação e até facilitação de armas de destruição em massa, segundo o conteúdo do processo.
Nomeação em entidade de segurança em IA ocorre após saída
Elon Musk – Imagem: FotoField/Shutterstock
Na semana anterior à divulgação da ação, o ex-engenheiro foi nomeado para liderar uma organização sem fins lucrativos dedicada ao estudo de riscos da inteligência artificial, o Center for AI Safety. A indicação ocorreu após sua saída da xAI e passou a ser mencionada no contexto do debate público sobre segurança em IA.
O processo judicial também contextualiza a disputa dentro de um cenário mais amplo envolvendo empresas de Elon Musk. A ação menciona que a SpaceX e outros empreendimentos do empresário enfrentam, há anos, alegações relacionadas à segurança operacional e às condições de trabalho, incluindo registros de acidentes em operações da companhia espacial, segundo investigação jornalística citada no texto-base.
Histórico de disputas e contexto envolvendo Musk e OpenAI
A fundação da xAI por Elon Musk em 2023 é descrita no processo como parte de uma iniciativa para criar uma alternativa mais segura no setor de inteligência artificial.
O texto também relembra que Musk esteve entre os fundadores da OpenAI, embora tenha posteriormente entrado em disputa judicial contra a organização, alegando desvio de sua missão original, ação que acabou rejeitada por um júri no ano anterior.
Até o momento, xAI e SpaceX não se manifestaram publicamente sobre as acusações apresentadas por Devin Kim.
A deputada trabalhista britânica Jess Asato entrou com uma ação judicial contra a xAI, empresa de inteligência artificial (IA) ligada a Elon Musk, após afirmar que a ferramenta Grok foi utilizada para criar imagens falsas e sexualizadas dela sem consentimento. O caso foi levado à Alta Corte de Londres e pode se tornar um marco para definir até que ponto empresas de IA podem ser responsabilizadas pelo conteúdo gerado por seus sistemas.
Asato, que representa o distrito de Lowestoft no Parlamento do Reino Unido, afirmou que tomou conhecimento das imagens em janeiro. Segundo ela, a ferramenta produziu representações suas usando biquíni sem autorização, algo que classificou como uma experiência “violadora”.
Parlamentar britânica processou a xAI pela criação de imagens falsas suas pelo Grok – Imagem: Algi Febri Sugita / Shutterstock
Ação judicial questiona responsabilidade da xAI
De acordo com informações apresentadas no processo, a deputada acusa a xAI de descumprir leis relacionadas à proteção de dados e ao uso indevido de informações privadas ao permitir que usuários utilizassem o Grok para criar esse tipo de conteúdo.
A ação sustenta que a empresa deveria ter adotado mecanismos de proteção para impedir a geração de imagens sexualizadas de pessoas reais sem consentimento.
Em entrevista ao Financial Times, Asato afirmou que, além das imagens em biquíni, a ferramenta também teria produzido um vídeo em que ela aparecia sendo cloroformizada e preparada para sofrer uma agressão sexual.
Segundo a parlamentar, o material começou a ser criado depois que ela criticou publicamente a produção de imagens sexualizadas não consensuais geradas por inteligência artificial.
“Minha esperança é que isso reequilibre os direitos dos indivíduos frente a empresas de tecnologia muito grandes que deveriam ter implementado salvaguardas antes de causar danos a mulheres e crianças”, declarou Asato ao Financial Times.
Caso semelhante já foi apresentado nos Estados Unidos
O processo movido por Jess Asato ocorre após uma ação semelhante apresentada no estado de Nova York por Ashley St Clair, mãe de um dos filhos de Elon Musk.
Ela alegou que o Grok também foi utilizado para criar imagens explícitas falsas envolvendo sua imagem. Entre os conteúdos citados na ação estaria uma representação em que ela aparecia menor de idade.
Para Ravi Naik, advogado que representa Asato, a discussão central do caso está na responsabilidade dos desenvolvedores pela forma como suas ferramentas são projetadas e disponibilizadas ao público.
“O princípio central deste caso é que os desenvolvedores devem responder pela maneira como projetam e implementam suas ferramentas”, afirmou o advogado ao Financial Times.
Governo britânico e regulador já investigaram o caso
O uso do Grok para gerar grandes quantidades de imagens sexualizadas de mulheres reais e, em alguns casos, de crianças, já havia provocado reações do governo britânico no início do ano.
Em janeiro, autoridades do Reino Unido ameaçaram adotar medidas contra a plataforma X após a circulação desse tipo de conteúdo. O órgão regulador de mídia Ofcom também abriu uma investigação sobre o assunto.
Inicialmente, a empresa de Musk informou que limitaria a criação dessas imagens a usuários pagantes da rede social. A medida foi criticada pelo primeiro-ministro Keir Starmer, que a classificou como “horrível”.
Poucos dias depois, o X anunciou que havia interrompido completamente a função que permitia ao Grok editar fotografias de pessoas reais para exibi-las usando roupas mais reveladoras.
Outros problemas envolvendo o Grok
O Grok também esteve envolvido em outro episódio de repercussão no Reino Unido. A ferramenta identificou incorretamente dois policiais de Hampshire como participantes da prisão de Henry Nowak.
Uma das profissionais citadas erroneamente foi Christi Hill, que trabalhou como policial por 12 anos. Segundo relatos, ela precisou se deslocar para um local seguro após passar a ser alvo de publicações na plataforma X.
Diversas postagens pediam que Hill e outro policial, também identificado de forma incorreta pela inteligência artificial, fossem localizados, presos ou até sofressem atos de violência.
A SpaceX planeja fabricar suas próprias GPUs (unidades de processamento gráfico), revelou a Reuters nesta quinta-feira (23). O plano consta em documentos de registro para a abertura de capital (IPO) da empresa, que deve ocorrer ainda em 2026.
A iniciativa busca garantir que a SpaceX tenha o poder de processamento necessário para suas ambições em inteligência artificial (IA), sem depender exclusivamente de fornecedores externos.
No documento enviado à SEC (órgão que regula o mercado financeiro nos EUA), a companhia de Elon Musk alertou investidores sobre os altos custos e os riscos de não ter suprimento de chips suficiente para sustentar seu crescimento.
Atualmente, a SpaceX não possui contratos de longo prazo com muitos de seus fornecedores diretos, o que torna a produção interna uma peça estratégica para a viabilidade de seus projetos para o futuro.
SpaceX: o projeto Terafab e o desafio da fabricação própria de chips
O coração dessa estratégia é o Terafab, complexo industrial em Austin, no Texas (EUA), desenvolvido em conjunto com a Tesla e a xAI (outras empresas de Musk).
Diferente de companhias que apenas desenham seus componentes, a visão do bilionário é que o Terafab cuide de cada etapa da produção, desde o design até a fabricação e os testes finais.
O coração da estratégia da SpaceX é o Terafab, complexo industrial em Austin, no Texas (EUA), desenvolvido em conjunto com a Tesla e a xAI – Imagem: Samuel Boivin/Shutterstock
Para tirar o projeto do papel, a empresa deve contar com a infraestrutura da Intel. Musk indicou que o processo de fabricação 14A, a próxima geração da empresa, deve estar maduro o suficiente para uso comercial no momento em que o Terafab ganhar escala.
Essa colaboração é vista pelo CEO como o “movimento certo” para garantir que a fábrica tenha a tecnologia de ponta necessária para produzir processadores de alta complexidade.
Atualmente, a indústria de chips funciona de forma fragmentada: gigantes como a Nvidia criam o projeto dos chips, mas dependem de fábricas terceirizadas, como a taiwanesa TSMC, para a construção física.
A SpaceX pretende romper esse modelo ao centralizar as etapas internamente. A ideia é evitar os gargalos logísticos e técnicos que hoje limitam a oferta global de hardware voltado para IA.
Apesar do otimismo, o caminho é tecnicamente árduo e financeiramente arriscado. A fabricação de chips de última geração exige precisão atômica e mais de mil etapas complexas, algo que poucas empresas no mundo dominam atualmente.
No próprio registro de IPO, a SpaceX foi franca com os investidores ao admitir que não há garantias de que os objetivos do Terafab serão alcançados nos prazos previstos. Nem se serão concretizados.
Três adolescentes do estado do Tennessee (EUA) — duas delas ainda menores de idade — processaram a empresa de inteligência artificial (IA) xAI, fundada por Elon Musk, alegando que ferramentas da companhia foram usadas para criar imagens sexualizadas delas quando eram menores. As acusações constam em uma ação judicial que atribui à empresa crimes, como distribuição, posse e produção com intenção de distribuir pornografia infantil.
Segundo a ação, uma mãe do leste do Tennessee procurou a polícia local após descobrir que fotos nuas de sua filha adolescente estavam circulando na internet. Ela afirma ter sido informada pelas autoridades de que as imagens teriam sido geradas com auxílio da xAI, startup de inteligência artificial que ela desconhecia até então.
De acordo com a investigação policial, uma pessoa presa em dezembro teria utilizado o Grok — ferramenta de IA da empresa — para editar fotografias da jovem, incluindo uma imagem retirada de sua conta no Instagram. Na manipulação, o suspeito teria removido digitalmente um biquíni azul da foto, “para retratá-la sem qualquer roupa”, conforme descrito no processo judicial protocolado nesta segunda-feira (16).
Adolescentes contra o Grok
A adolescente faz parte de um grupo de jovens do Tennessee que acusam a empresa de permitir que suas ferramentas de IA fossem usadas para transformar fotografias nas quais elas apareciam vestidas em imagens falsas de nudez;
As imagens manipuladas passaram a circular em plataformas, como Discord e Telegram, nos últimos meses;
Em alguns casos, segundo a denúncia, elas foram trocadas em salas de bate-papo online por outros materiais de abuso sexual infantil. O caso foi inicialmente revelado pelo The Washington Post;
A ação judicial foi registrada nesta segunda-feira (16) no tribunal federal do Distrito Norte da Califórnia;
O processo afirma que um único perpetrador reuniu imagens e vídeos de mais de 18 garotas — muitas delas estudantes da mesma escola — e alterou digitalmente parte desse material com o auxílio de IA;
Segundo os advogados, trata-se da primeira ação movida por vítimas menores de idade relacionada a um escândalo recente envolvendo ferramentas capazes de “despir” pessoas em fotos, recurso que teria gerado controvérsias envolvendo a xAI.
A mãe de uma das adolescentes, que falou sob condição de anonimato para preservar a privacidade da filha, afirmou que o episódio teve forte impacto emocional sobre a jovem, descrita como uma estudante sociável e atleta. “Isso definitivamente a colocou um pouco dentro de uma concha, algo que nunca tínhamos visto antes”, disse.
Os três autores do processo — incluindo duas menores — pedem indenizações por cada violação relacionada à pornografia infantil e buscam impedir que a empresa permita o uso de ferramentas de edição semelhantes às que foram utilizadas para alterar suas imagens.
Os advogados argumentam que a xAI criou um ambiente no qual a disseminação de material de abuso sexual infantil seria inevitável. Segundo a acusação, a tecnologia e a forma como a empresa divulgou suas ferramentas incentivavam a criação de imagens explícitas. No processo, os autores afirmam que “um modelo capaz de criar imagens sexualizadas de adultos não pode ser impedido de criar material de abuso sexual infantil envolvendo menores”.
A advogada Vanessa Baehr-Jones, do escritório Baehr-Jones Law, que representa os adolescentes em ação coletiva proposta, afirmou que o impacto sobre as vítimas pode ser permanente. “Esses jovens — essas crianças — estão enfrentando uma vida inteira com essas imagens sexualizadas do que parece ser o corpo de uma criança circulando na internet”, disse. “Isso não teria sido possível sem essa ferramenta que a xAI lançou, sabendo plenamente que esse material poderia ser gerado.”
Nem Musk nem a xAI responderam imediatamente a pedidos de comentário sobre o processo feitos pelo Post. Em janeiro, porém, Musk escreveu em uma publicação no X que não tinha conhecimento de imagens nuas de menores geradas pelo Grok. “Não tenho conhecimento de nenhuma imagem nua de menores gerada pelo Grok. Literalmente zero”, afirmou.
Segundo Musk, o chatbot apenas segue as solicitações feitas pelos usuários e recusaria produzir qualquer conteúdo ilegal. Ele acrescentou que ataques de “hacking adversarial” poderiam fazer a ferramenta agir de forma inesperada. “Se isso acontecer, corrigimos o bug imediatamente”, escreveu.
Na semana passada, Musk também afirmou em outra publicação que “se é permitido em um filme classificado como R [A-18 no Brasil], é permitido” pelas ferramentas de criação de imagens e vídeos do Grok.
Segundo Musk, chatbot apenas segue as solicitações feitas pelos usuários e recusaria produzir qualquer conteúdo ilegal (Imagem: Algi Febri Sugita/Shutterstock)
A ação judicial surge após a xAI enfrentar críticas por permitir que usuários “despissem” pessoas reais em fotografias usando recursos de edição disponíveis no Grok Imagine e em um modo chamado “Spicy”. Essas funcionalidades permitiam criar imagens sexualizadas de pessoas reais, retratando-as com roupas extremamente reveladoras — por exemplo, com peças tão pequenas quanto um fio dental.
Pesquisadores afirmam que milhões de imagens sexualizadas foram geradas com essas ferramentas, incluindo cerca de 23 mil fotos que aparentavam retratar crianças. O caso levou autoridades a abrir investigações, entre elas o procurador-geral da Califórnia, a Comissão Europeia e o regulador britânico de comunicações.
Em janeiro, a xAI informou que havia revertido algumas das ferramentas de edição em determinadas jurisdições, após já ter restringido anteriormente a geração de imagens apenas a usuários pagantes. Segundo reportagens do Post, a adoção de conteúdos sexualizados pelo Grok fazia parte de uma estratégia para atrair mais usuários para o chatbot.
A ação judicial afirma que a xAI cometeu diversas irregularidades, incluindo a criação de pornografia infantil e o lançamento de uma funcionalidade com falhas graves de design. Os autores alegam que a empresa permitiu conscientemente que suas ferramentas gerassem imagens sexualizadas de menores como parte de um esforço para monetizar a tecnologia de IA.
O processo também sustenta que editar imagens de crianças reais para produzir representações sexualizadas configura criação de pornografia infantil. Autoridades dos Estados Unidos já afirmaram anteriormente que representações sexualmente explícitas de crianças geradas por computador são ilegais.
Segundo a denúncia, “a xAI — e seu fundador Elon Musk — viram uma oportunidade de negócios: lucrar com a predação sexual de pessoas reais, incluindo crianças”.
As estudantes do Tennessee tomaram conhecimento das imagens explícitas no fim do ano passado. Uma delas, identificada no processo como “Jane Doe 1”, recebeu uma mensagem no Instagram informando que fotos sexualizadas dela estavam circulando no Discord.
De acordo com a ação, uma das imagens de abuso sexual infantil atribuídas a ela foi criada a partir de uma fotografia tirada durante o baile de boas-vindas da escola, em setembro de 2025. Outra imagem, em que ela aparece com os seios expostos, teria sido produzida a partir de uma foto do anuário escolar. A jovem “era menor de idade no período relevante”, afirma o processo.
Ela recebeu também um link para um servidor no Discord “que continha imagens e vídeos de pelo menos outras 18 garotas menores de idade, muitas das quais Jane Doe 1 reconheceu de sua escola”. Segundo o documento judicial, a polícia abriu, no ano passado, uma investigação criminal contra o responsável. Ele foi preso em dezembro, quando os investigadores também realizaram buscas em seu telefone.
Mesmo assim, as imagens continuaram circulando amplamente na internet. “Em chats de grupo no Telegram com centenas de outros usuários, [o perpetrador trocou] arquivos de material de abuso sexual infantil dela por conteúdo sexual explícito de outros menores”, diz a ação.
Os advogados afirmam ter consultado especialistas independentes que concluíram que as imagens foram geradas por IA — especificamente pelo Grok. Segundo a denúncia, o autor utilizou o chatbot e outras ferramentas que licenciam suas capacidades, incluindo aplicativos projetados para “despir pessoas”, para manipular fotos reais de menores. Esses aplicativos funcionariam como intermediários, levando os recursos do Grok a usuários que não acessam diretamente o site da ferramenta ou o aplicativo X.
“Em todos os casos, as imagens e vídeos reais enviados para os servidores dos réus não eram material ilegal, mas tornaram-se conteúdo ilícito apenas depois que a IA dos réus transformou os arquivos nos servidores da xAI para produzir e distribuir material de abuso sexual infantil”, afirma o processo.
Até fevereiro, as duas outras autoras da ação — ambas menores — descobriram, por meio da investigação criminal, que o suspeito também havia usado imagens delas para criar material de abuso sexual infantil.
Segundo os advogados, as consequências do episódio podem acompanhar as vítimas por décadas. A denúncia afirma que elas provavelmente receberão notificações do National Center for Missing & Exploited Children pelo resto da vida, informando que “réus criminais possuíram, receberam ou distribuíram arquivos de material de abuso sexual infantil que as retratam”.
Em entrevista ao Post, a advogada Annika K. Martin, principal responsável pelo caso, disse que gostaria de fazer uma série de perguntas diretamente ao fundador da xAI, ou seja, Musk.
“Como pai, você consegue imaginar seu filho — o rosto do seu filho — em imagens de atos sexuais depravados, inserido em vídeos de comportamento sexual grotesco?”, questionou. “A voz do seu filho em um vídeo gritando. Você consegue imaginar isso como pai? Consegue imaginar isso e se sentir bem com o que fez?”
Em meio ao avanço de um possível IPO, a startup americana de inteligência artificial Anthropic, dona do chatbot Claude, se vê no meio de um conflito político e ideológico com o governo de Donald Trump e com o Pentágono, sede do Departamento de Defesa dos Estados Unidos. A preocupação é que os possíveis atritos com […]
