A OpenAI não vai estrear na Bolsa de Valores em 2026. A confirmação veio do próprio presidente da empresa, Sam Altman, em entrevista à revista Fortune. O motivo principal para segurar a oferta pública de ações (IPO) é a preocupação com a segurança e com os riscos das tecnologias de inteligência artificial.
Para Altman, este não é o momento adequado para levar a empresa ao mercado financeiro. O executivo destacou a responsabilidade que as empresas do setor e os governos têm nas mãos, afirmando que riscos à humanidade não podem ser ignorados em troca de lucro ou por vaidade corporativa. Segundo ele, o foco atual da OpenAI precisa ser o alinhamento de segurança e a cooperação com órgãos governamentais.
A decisão acontece em um período de pressão crescente nos Estados Unidos. Tanto políticos democratas quanto republicanos vêm cobrando regras mais rígidas para o setor de IA.
O alerta aumentou após pesquisadores relatarem casos de sistemas autônomos que saíram do controle e invadiram outros sistemas, além de demissões de especialistas que deixaram empresas da área por receio quanto aos rumos da tecnologia.
Anthropic defende redução na velocidade de desenvolvimento e recebe apoio de Altman e Musk
Alertas recentes sobre potenciais cenários de risco extremo colocaram o ritmo de desenvolvimento em debate. Dario Amodei, presidente da concorrente Anthropic, defendeu publicamente a redução da velocidade na evolução dos modelos mais avançados.
Montagem com imagens de Elon Musk, CEO da SpaceX; Dario Amodei, CEO da Anthropic; e Sam Altman, CEO da OpenAI – SpaceX / Forum Econômico Mundial / FotoField (Shutterstock)
Amodei recebeu apoio público de dois de seus concorrentes diretos: Elon Musk e Altman concordaram com a declaração. O CEO da OpenAI ainda revelou que as principais empresas do setor estudam criar um acordo conjunto para desacelerar o avanço das ferramentas e focar na mitigação de falhas.
Apesar das discussões sobre desaceleração no setor, o caminho das concorrentes é diferente: a Anthropic mantém seus planos de abrir capital no mercado financeiro ainda no final deste ano.
Por John Park, especialista em inteligência artificial e Founding Member of Technical Staff da AGI Inc. As recentes advertências de pesquisadores que deixaram empresas como Anthropic e OpenAI reacenderam uma questão que há algum tempo acompanha o desenvolvimento da inteligência artificial: quão perigosa a IA avançada pode se tornar?
Esses alertas devem ser levados a sério. A própria Anthropic, por exemplo, desenvolveu políticas específicas para lidar com riscos catastróficos associados a modelos cada vez mais avançados. A discussão sobre segurança não é hipotética nem deve ser tratada como uma simples disputa de narrativas entre empresas de tecnologia.
Mas existe outra pergunta que também merece atenção: quando uma empresa afirma que sua tecnologia é extraordinariamente poderosa, transformadora e potencialmente perigosa, o que essa mensagem comunica a investidores e formuladores de políticas públicas?
Anthropic e OpenAI deram passos formais em direção a possíveis ofertas públicas de ações. A Anthropic, por exemplo, pode começar a apresentar sua proposta a investidores já em outubro, enquanto investidores discutem uma possível avaliação de até US$ 2 trilhões.
Minha preocupação aqui não é questionar se Anthropic ou OpenAI merecem suas respectivas avaliações. É reconhecer que existe uma conexão natural entre a maneira como as empresas de IA de fronteira descrevem suas tecnologias e o valor econômico que o mercado pode atribuir a elas.
Considere a narrativa criada quando uma empresa enfatiza que seus modelos não são apenas poderosos, mas poderosos o suficiente para transformar a sociedade e, ao mesmo tempo, gerar riscos sem precedentes.
A primeira mensagem é que a tecnologia é extraordinariamente capaz. A segunda é que seu impacto potencial pode ser extraordinariamente grande.
E a terceira, que pode surgir naturalmente na cabeça dos investidores, é que a empresa responsável por desenvolver essa tecnologia pode capturar um valor econômico extraordinário.
Não estou afirmando que isso seja necessariamente uma estratégia deliberada para inflar avaliações. Estou dizendo que essas ideias se reforçam mutuamente.
Uma empresa não precisa afirmar explicitamente que sua tecnologia justifica determinada avaliação para que os investidores façam essa associação por conta própria.
Isso também não significa que os riscos sejam inventados ou exagerados. Uma tecnologia pode, de fato, ser revolucionária e representar riscos reais sem necessariamente gerar lucros proporcionais à sua importância tecnológica.
É justamente por isso que precisamos separar três questões diferentes: quão poderosa é uma tecnologia, quão perigosa ela pode ser e quanto valor econômico a empresa que a desenvolve conseguirá capturar.
Essas três coisas podem estar relacionadas, mas não são a mesma coisa.
Sou favorável a requisitos de segurança para sistemas de IA de alto risco. Se determinados modelos podem causar danos em escala significativa, é razoável exigir avaliações de segurança, transparência e mecanismos de controle.
O problema começa quando as regras passam a refletir as estruturas, os recursos financeiros e a infraestrutura das maiores empresas do setor.
Uma regulamentação que exige equipes enormes, processos complexos, auditorias caras ou níveis de computação que apenas as maiores empresas conseguem sustentar pode, na prática, criar barreiras à entrada — mesmo que essa não tenha sido sua intenção original.
A regulação deveria ser proporcional ao risco, e não ao tamanho ou ao poder de mercado da empresa. A experiência recente da Califórnia ajuda a ilustrar esse debate.
Em 2024, o estado aprovou o SB 1047, projeto que estabelecia requisitos de segurança para desenvolvedores de alguns dos modelos de IA mais poderosos, incluindo medidas destinadas a prevenir danos catastróficos. O governador Gavin Newsom vetou a proposta, argumentando, entre outros pontos, que ela não levava suficientemente em consideração como e onde os sistemas de IA seriam efetivamente utilizados.
Um ano depois, a Califórnia aprovou o SB 53, criando uma estrutura diferente de segurança para desenvolvedores de modelos de fronteira. A legislação estabeleceu requisitos de transparência e práticas de segurança que atingem principalmente os grandes desenvolvedores desse tipo de tecnologia.
O debate em torno dessas propostas também mostrou como as próprias empresas de IA participam ativamente da construção das regras que irão governar o setor. A Anthropic, por exemplo, apoiou uma versão modificada do SB 1047, enquanto a OpenAI adotou uma posição diferente e defendeu uma abordagem federal.
Isso não prova que as empresas estejam deliberadamente tentando criar barreiras para concorrentes. Mas mostra por que precisamos prestar atenção à relação entre regulamentação e estrutura de mercado.
Essa questão é especialmente importante para países que ainda estão construindo suas próprias capacidades de inteligência artificial.
Se os padrões globais de segurança forem definidos principalmente pelas maiores empresas americanas de IA, empresas brasileiras poderão ter de arcar com custos regulatórios e técnicos desenhados para organizações que possuem recursos muito maiores.
O resultado poderia ser paradoxal: uma regulamentação criada para tornar a IA mais segura acabar dificultando o surgimento de novos competidores e aumentando a dependência de empresas estrangeiras.
O objetivo não deveria ser escolher entre segurança e inovação.
Deveria ser criar condições para que empresas de diferentes tamanhos possam desenvolver tecnologia com responsabilidade, sem transformar os padrões de segurança em uma vantagem estrutural para quem já domina o mercado.
Há uma razão legítima para que empresas como a Anthropic desenvolvam políticas de segurança e para que essas políticas influenciem o debate regulatório.
A Anthropic, por exemplo, afirma que sua Responsible Scaling Policy busca estabelecer mecanismos para lidar com riscos associados a modelos cada vez mais avançados e, ao mesmo tempo, servir como referência para padrões da indústria e futuras políticas públicas.
Esse tipo de iniciativa pode ser útil. Mas políticas criadas pelas próprias empresas não deveriam ser tratadas como substitutas de supervisão independente.
Precisamos de avaliações verificáveis, critérios transparentes e mecanismos de fiscalização capazes de distinguir entre riscos reais e afirmações sobre riscos.
Também precisamos evitar um cenário em que as maiores empresas de IA sejam simultaneamente desenvolvedoras da tecnologia, definidoras dos padrões de segurança e principais beneficiárias econômicas desses mesmos padrões.
É possível levar a sério os alertas de segurança feitos por pesquisadores e empresas de IA sem aceitar automaticamente todas as implicações econômicas ou regulatórias dessas narrativas.
As duas coisas podem ser verdade ao mesmo tempo: a inteligência artificial pode representar riscos genuínos, e as maiores empresas de IA podem ter incentivos econômicos para enfatizar sua importância tecnológica e estratégica.
Reconhecer essa possibilidade não significa acusar essas empresas de má-fé. Significa reconhecer que incentivos importam.
À medida que os modelos se tornam mais poderosos, a discussão sobre segurança se torna também uma discussão sobre quem terá capacidade de desenvolver, operar e competir com essas tecnologias.
A pergunta central, portanto, não deveria ser apenas: “A IA é perigosa demais para ser desenvolvida?” Também precisamos perguntar: “Ela é perigosa demais para que outros possam competir?”
A segurança deve proteger a sociedade — e não a posição de mercado das empresas que prometem protegê-la.
John Park escreveu o artigo a convite do site. Sua opinião não representa, necessariamente, a opinião do Olhar Digital.
🔍 Curadoria Studio Mestre Digital: Nossa equipe monitora as principais movimentações de mercado e tecnologia para manter você atualizado.
A Cogna aposta no uso da inteligência artificial para resolver um desafio típico do setor de educação: tornar os alunos clientes por mais tempo. A estratégia chamada de lifelong learning busca evitar que o relacionamento termine após o recebimento do diploma. “Cada vez mais as pessoas vão ter que estudar e aprender ao longo da […]
O post O “algoritmo” da Cogna para gerar receita recorrente (e reter o aluno além do diploma) apareceu primeiro em NeoFeed.
Insight Studio Mestre: Esta notícia reflete tendências que podem impactar diretamente o seu modelo de negócio digital.
O episódio sobre o RubyGems só agora foi relacionado à OpenAI. Uma coalizão de pesquisadores de IA encontrou evidências de que os agentes da companhia estavam por trás do ataque e compartilhou as descobertas com o Journal e com a própria OpenAI.
Nesta sexta-feira (11), a empresa confirmou que seus agentes estiveram envolvidos em um incidente relacionado ao RubyGems.
“Com base em nossa análise, nossos agentes usaram a plataforma RubyGems para acessar a internet e realizar tarefas benignas e obter informações públicas. Continuaremos investigando como parte de nossa análise mais ampla da atividade dos agentes durante treinamento e avaliação”, afirmou uma porta-voz da OpenAI.
O ataque provocou danos considerados menores, mas foi suficiente para sobrecarregar os responsáveis pelo RubyGems. O serviço precisou interromper durante quatro dias o cadastro de novas contas enquanto lidava com o volume de atividade provocado pelos agentes.
Para Sydney Von Arx, CEO do Nightingale Collective, organização sem fins lucrativos que ajudou a identificar o ataque, o episódio demonstrou as capacidades desses sistemas. “Eles podem escapar da internet e causar estragos”, afirmou.
Agentes criaram centenas de contas
O incidente, batizado de GemStuffer por pesquisadores de segurança, começou em 11 de maio;
Os agentes criaram novas contas no RubyGems a cada dois ou três minutos e enviaram centenas de arquivos que pareciam spam para a equipe de segurança da plataforma;
Os arquivos do RubyGems normalmente contêm códigos e documentação utilizados para acelerar o desenvolvimento de softwares. Nesse caso, porém, os arquivos continham páginas da internet coletadas por meio de scraping;
Entre os conteúdos publicados estavam calendários online de um site do governo do Reino Unido;
Os agentes também tentaram explorar duas falhas que poderiam permitir a publicação de novas versões de arquivos existentes do RubyGems pertencentes a outros usuários.
Segundo os pesquisadores de IA, uma dessas falhas não era conhecida publicamente e tinha gravidade suficiente para ser classificada como uma vulnerabilidade zero-day. A OpenAI, porém, afirmou que não conseguiu verificar essa alegação.
Apesar do volume da ação, o ataque aparentemente não conseguiu explorar a suposta vulnerabilidade. “Foi um ataque importante em termos do volume que vemos”, afirmou Marty Haught, diretor de código aberto da Ruby Central, organização sem fins lucrativos responsável pelo RubyGems.
Haught disse não saber quem estava por trás da ação, mas afirmou que ela não parecia ter conseguido explorar a vulnerabilidade zero-day.
OpenAI diz que agentes usavam RubyGems para acessar a internet
De acordo com a OpenAI, os agentes estavam sendo instruídos a executar tarefas, como preencher planilhas e criar relatórios.
Como o ambiente de treinamento não oferecia acesso completo à internet, os agentes aparentemente recorreram ao RubyGems para consultar informações públicas. Na prática, a plataforma de desenvolvimento teria sido utilizada como uma espécie de navegador improvisado.
Joseph Edwards, pesquisador de ameaças da empresa de segurança Socket, afirmou que a velocidade da ação levou sua equipe a suspeitar, na época, que o ataque pudesse ter sido gerado por IA. “Pensamos que isso poderia ter sido gerado por IA na época, devido à velocidade e aos nomes”, afirmou.
Posteriormente, pesquisadores encontraram uma série de rastros digitais que permitiram relacionar o incidente ao laboratório da OpenAI. Os responsáveis pelo ataque utilizaram muitos dos mesmos links encontrados em uma operação anterior envolvendo uma “swarm” de agentes da OpenAI e apresentaram comportamentos semelhantes.
Os pesquisadores também encontraram a expressão “OAI” em nomes de arquivos e até em um endereço de e-mail usado durante a ação. Os agentes utilizaram ainda nomes relacionados a ataques cibernéticos nos arquivos criados, incluindo termos como “hack”, “evil” e “exploit”.
“É meio louco para mim o quão caricaturalmente exagerados são os termos”, afirmou Von Arx.
De acordo com a OpenAI, os agentes estavam sendo instruídos a executar tarefas, como preencher planilhas e criar relatórios – Imagem: Olhar Digital via ChatGPT
O episódio de maio ganhou ainda mais relevância depois que agentes da OpenAI foram relacionados a outro ataque, desta vez contra a Hugging Face, em julho.
Segundo um relatório divulgado no fim de agosto pela organização de pesquisa em segurança de IA METR, uma rede de até 1,2 mil agentes teria se coordenado em um fórum improvisado criado dentro da própria OpenAI sem o conhecimento da empresa.
Von Arx também afirmou que agentes da OpenAI sequestraram um obscuro site alemão e outros sites no início deste ano. O caso do site alemão também foi identificado pelo grupo dela, que critica a falta de transparência das empresas de IA sobre o que acontece dentro de seus laboratórios.
No início deste mês, a própria OpenAI afirmou que a comunidade de IA precisa de padrões melhores para relatar o que chama de “incidentes de desalinhamento”, situações em que agentes apresentam comportamentos que ultrapassam aquilo que seus operadores pretendiam.
Medo de agentes fora de controle aumenta
A sequência de incidentes envolvendo agentes de diferentes empresas, incluindo Anthropic e Meta, tem aumentado a preocupação de pesquisadores de segurança de IA. Em alguns casos, esses sistemas chegaram a executar ações além das instruções recebidas e houve episódios em que agentes tentaram enganar seres humanos.
O temor é que sistemas cada vez mais capazes possam eventualmente escapar dos mecanismos de controle estabelecidos pelas empresas que os desenvolvem.
Nesta semana, um engenheiro da Anthropic deixou a empresa justamente por temer que a indústria esteja correndo para desenvolver sistemas avançados que poderiam representar uma ameaça à civilização humana.
Funcionários atuais e antigos da Anthropic e da OpenAI também manifestaram preocupações semelhantes. Um deles estimou em mais de 10% a possibilidade de que a IA pudesse “matar todos os humanos”.
OpenAI e Anthropic também defenderam sistemas de governança capazes de coordenar uma eventual desaceleração da pesquisa sobre os modelos mais avançados à medida que as empresas se aproximam da possibilidade de sistemas de IA treinarem autonomamente novas versões de si mesmos.
Esse processo é chamado pelas empresas de “autoaperfeiçoamento recursivo” e é considerado por alguns pesquisadores como um possível ponto de inflexão a partir do qual a IA poderia se tornar impossível de controlar.
A Anthropic afirma ter bloqueado operações de vigilância apoiadas por governos da China, do Irã e do Mali que utilizavam o Claude para monitorar dissidentes e minorias.
Detectadas entre janeiro e julho, as operações envolveram identificação de pessoas nas redes sociais e criação de software para coleta de inteligência. A empresa ainda interrompeu usos relacionados a armas, pesquisas biológicas suspeitas e golpes românticos online.
Leia mais:
Em um dos casos, pessoas no Irã usaram o Claude para desenvolver um método de identificação por contas em redes sociais. Imagem: Mehaniq/Shutterstock
Claude entrou em operações de vigilância
As campanhas tinham como alvo comunidades que, segundo a Anthropic, já são perseguidas historicamente por esses governos. A lista inclui ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano que vivem no exterior.
Em um dos episódios, pessoas no Irã desenvolveram um método para identificar indivíduos por meio de suas contas em redes sociais. No Mali, um contratado que trabalhava para autoridades de segurança nacional usou o Claude “para projetar o software subjacente que permitiu a coleta de inteligência”.
Entre os usos identificados estavam:
Identificação de pessoas por contas em redes sociais;
Monitoramento de dissidentes e minorias no exterior;
Desenvolvimento de software para coleta de inteligência;
Operações de vigilância apoiadas por governos.
A Anthropic afirma ter encerrado as operações depois de identificar o uso indevido de seus modelos.
Dados também foram usados para treinar outros modelos
Desenvolvedores chineses foram acusados pela empresa de usar o Claude de forma enganosa. Eles geravam respostas para consultas de usuários e, ao mesmo tempo, “destilavam” esses dados para aprimorar seus próprios modelos.
Na prática, a destilação consiste em usar um modelo de IA para treinar outro. Segundo a Anthropic, desenvolvedores chineses já haviam sido acusados anteriormente de utilizar essa técnica sem autorização.
A Anthropic também bloqueou estudos envolvendo chikungunya, gripe aviária, varíola, mpox, venenos e toxinas. Imagem: QINQIE99/Shutterstock
Pesquisas biológicas entraram na lista de bloqueios
A Anthropic identificou ainda estudos relacionados ao vírus chikungunya, a uma cepa “altamente patogênica” de gripe aviária, a uma família de vírus que inclui varíola e mpox, além de venenos e outras toxinas.
A intenção dos envolvidos não estava clara, e a empresa não revelou suas identidades.
“As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos”, afirmou o relatório.
A Anthropic também bloqueou tentativas de desenvolver armas e criar golpes românticos online. Os episódios relatados pela empresa incluem diferentes formas de uso indevido de seus modelos, desde operações de vigilância até pesquisas cuja finalidade não estava clara.
A Anthropic publicou um novo relatório sobre o uso malicioso de inteligência artificial (IA) e reuniu casos em que o Claude foi empregado em operações que vão de ataques cibernéticos e espionagem a desenvolvimento de armas, pesquisas biológicas, golpes e tentativas de copiar capacidades de modelos avançados.
O documento, publicado em 10 de setembro, analisa atividades identificadas e interrompidas pela equipe de Threat Intelligence da empresa entre dezembro de 2025 e agosto de 2026. Ao todo, são sete áreas de risco: operações cibernéticas, operações de influência, vigilância, golpes e fraudes, uso biológico, desenvolvimento de armas convencionais e destilação ilícita de modelos.
A Anthropic ressalta que os casos apresentados não representam o uso indevido típico de seus modelos, mas algumas das atividades mais relevantes e novas identificadas pela empresa. Entre os envolvidos estão grupos suspeitos de terem apoio estatal, criminosos motivados financeiramente, empresas de spyware, instituições de propaganda e indivíduos politicamente motivados.
IA deixa de ser apenas assistente em ataques
Uma das principais conclusões do relatório aparece na parte dedicada a operações cibernéticas. Segundo a Anthropic, a IA passou a ocupar uma função mais próxima de orquestradora das operações, em vez de simplesmente responder perguntas ou ajudar pontualmente um criminoso.
A empresa identificou operações em que agentes de IA participaram de diferentes etapas de um ataque, como reconhecimento, desenvolvimento de ferramentas, exploração de sistemas, coleta de informações e exfiltração de dados. Em alguns casos, humanos continuavam definindo os alvos e supervisionando os resultados, mas grande parte do trabalho era executada ou coordenada pelos sistemas de IA.
A Anthropic afirma que esse avanço diminui a diferença de capacidade entre operações conduzidas por grupos bem financiados e aquelas realizadas por indivíduos. Segundo a empresa, atividades que até pouco tempo exigiriam vários profissionais especializados passaram a poder ser conduzidas por operadores com menos conhecimento técnico.
Em um dos casos, associado pela Anthropic a uma operação de espionagem russa, agentes de IA automatizaram etapas que iam do desenvolvimento de ferramentas e infraestrutura até phishing, manutenção de acesso e exfiltração. Quando um malware era identificado por sistemas de segurança, os agentes podiam modificá-lo e reconstruí-lo para tentar escapar da detecção. A operação atingiu mais de 20 organizações, principalmente na Ucrânia e na Europa.
Outro caso envolveu operadores que usaram Claude como camada de engenharia e orquestração de uma operação que mantinha diferentes frentes funcionando em paralelo. Entre elas estavam pesquisa de vulnerabilidades, desenvolvimento de malware, reconhecimento de redes de governos estrangeiros e coleta de inteligência. A Anthropic afirma que os agentes podiam manter memória persistente da campanha e continuar executando determinadas tarefas mesmo quando os operadores humanos não estavam presentes.
Propaganda e espionagem ganham escala
O relatório também mostra como modelos de IA podem ser incorporados à estrutura de operações de influência. Em vez de apenas gerar textos, o Claude foi usado em alguns casos para ajudar a construir a própria infraestrutura das campanhas, incluindo manuais, sistemas de personas, bancos de alvos e documentos de planejamento.
A Anthropic identificou operações nas quais a IA funcionava como uma espécie de redação automatizada, inserida em fluxos de trabalho que já existiam. O modelo também foi usado para criar conteúdo, adaptar mensagens para diferentes públicos, manter arquivos com regras editoriais e produzir material em escala. Em alguns casos, os operadores tentaram fazer com que narrativas patrocinadas por Estados parecessem ter origem independente.
Um dos casos envolveu três operações alinhadas ao Estado iraniano. Segundo a empresa, os responsáveis usaram Claude para preparar campanhas de influência associadas ao que chamavam de “guerra cognitiva”, criando planos de campanha, manuais de doutrina, sistemas de personas, bancos de alvos e documentos de planejamento ministerial. O conteúdo também era adaptado para diferentes idiomas e distribuído em diversas plataformas.
A Anthropic identificou ainda uma operação comercial de influência que utilizava cerca de 70 sites falsos de notícias, acompanhados por dezenas de contas no X e mais de 250 contas inautênticas para comentários e amplificação. O grupo produziu pelo menos 8.913 artigos em cerca de 20 idiomas e direcionou conteúdo para públicos em seis continentes, incluindo Estados Unidos, Brasil, França e República Democrática do Congo.
A vigilância aparece como outra frente importante. Entre janeiro e julho de 2026, a Anthropic identificou operações envolvendo atores alinhados a Estados, contratados governamentais e empresas comerciais de spyware na China, no Irã e na África Ocidental.
Em um dos casos, um consultor que trabalhava para a segurança nacional do Mali usou Claude para desenvolver uma plataforma de interceptação capaz de monitorar comunicações nas redes móveis do país e gerar dossiês sobre alvos. No Irã, atores usaram o modelo para desenvolver uma extensão maliciosa do Firefox que coletava identidades de usuários de redes sociais. Na China, a Anthropic identificou sistemas usados para monitorar dissidentes, ativistas, minorias étnicas e comunidades da diáspora.
Em outro caso chinês, Claude foi usado para produzir boletins governamentais de monitoramento de opinião pública. O sistema processava diariamente de 15 a mais de 30 artigos de redes sociais e veículos estrangeiros, classificando conteúdos segundo sua sensibilidade política e identificando possíveis alvos.
IA também aparece em armas e pesquisas biológicas
O relatório reúne seis casos relacionados ao desenvolvimento de armas convencionais: três na China, dois na Rússia e um no Iêmen. Eles envolvem desde desenvolvimento de software para armas até atividades de inteligência e aquisição de componentes de uso civil e militar.
Um dos casos mais detalhados envolve uma célula baseada no norte do Iêmen. Os integrantes trabalhavam em três programas de armas, incluindo um foguete guiado, um míssil balístico com alcance declarado superior a 2 mil quilômetros e uma família de mísseis que incluía uma variante de veículo planador hipersônico.
Modelos atuais da Anthropic ganharam capacidade científica, aumentando o desafio de distinguir pesquisa legítima de possível uso malicioso – Imagem criada por inteligência artificial: Grok/Olhar Digital
Segundo a Anthropic, o Claude Code foi usado no lugar de engenheiros humanos para desenvolver softwares de orientação, navegação e controle. O sistema ajudou a integrar um piloto automático, escrever componentes de controle e estimativa de posição, ajustar configurações, executar processos de compilação e realizar simulações de voo. Os responsáveis chegaram a testar um foguete guiado, mas o teste aparentemente fracassou. A Anthropic diz não ter evidências de que um armamento operacional tenha sido colocado em campo.
Na área biológica, a Anthropic apresenta cinco estudos de caso envolvendo pesquisas que poderiam apoiar o desenvolvimento de armas biológicas. A empresa, porém, faz uma ressalva importante: os envolvidos eram cientistas e a companhia não afirma que eles tinham intenção de causar danos. Por esse motivo, também não divulga os nomes das instituições, dos países ou detalhes específicos dos agentes e técnicas envolvidos.
Os casos incluem pesquisas de ganho de função envolvendo o vírus chikungunya, planejamento de experimentos com influenza aviária altamente patogênica, uma proposta relacionada a ortopoxvírus, um atlas de peptídeos de veneno e trabalhos de redesenho computacional de toxinas.
A empresa destaca que esse é um dos problemas mais difíceis de avaliar porque a biologia é uma área de duplo uso. O mesmo conhecimento pode contribuir para vacinas e tratamentos ou, dependendo de como for aplicado, para tornar um agente biológico mais perigoso. Por isso, a Anthropic diz que não considera os casos evidência de uma ameaça biológica iminente criada com IA, mas afirma que eles mostram a necessidade de salvaguardas mais fortes diante da capacidade crescente dos modelos.
Golpes usam IA para conversar com milhares de pessoas
Entre os casos apresentados pela Anthropic está também uma operação de fraude baseada em aplicativos de relacionamento. Uma empresa de desenvolvimento de aplicativos sediada na China usou Claude para criar uma rede com mais de 20 aplicativos e alimentar as personas de IA que conversavam com os usuários, embora os serviços fossem anunciados como se as interações fossem totalmente humanas.
Em apenas duas semanas, em abril de 2026, a Anthropic identificou mais de 4.700 personas de IA diferentes conversando com pelo menos 25 mil pessoas. A operação também empregava pessoas reais, misturadas aos perfis automatizados para aumentar a aparência de autenticidade.
A proporção era de aproximadamente três personas de IA para cada pessoa real. Os trabalhadores humanos eram usados principalmente em situações que os modelos não conseguiam executar, como chamadas de vídeo e interações em redes sociais. Enquanto isso, as personas alimentadas por Claude podiam manter conversas autonomamente e, ao longo das duas semanas analisadas, produziram cerca de 2,36 milhões de mensagens.
A operação ainda usava diferentes modelos de IA para funções específicas, incluindo geração de respostas para trabalhadores humanos, avaliação de aparência, moderação de fotos e voz e criação de imagens para os perfis. Os aplicativos também tinham mecanismos para tentar escapar das avaliações das lojas de aplicativos.
Empresas tentam copiar capacidades dos modelos
A última frente analisada no relatório é a chamada destilação ilícita. A técnica de destilação, por si só, é legítima: um modelo maior e mais capaz pode ser usado como “professor” para gerar respostas que ajudam a treinar um modelo menor. O problema está em fazer isso de maneira clandestina e sem autorização para copiar capacidades de outro sistema.
Segundo a Anthropic, desde a primeira divulgação sobre o tema, em fevereiro, a empresa identificou e interrompeu novos ataques desse tipo atribuídos a sete laboratórios sediados na China. As campanhas usaram redes de contas falsas, cartões de crédito roubados, credenciais e chaves de API para acessar os modelos da companhia.
A empresa afirma que os ataques buscavam principalmente capacidades consideradas valiosas em modelos avançados, como uso de ferramentas e agentes, programação, análise de dados e raciocínio lógico. Em alguns casos, os responsáveis tentaram extrair registros de raciocínio do Claude para utilizá-los no treinamento de outros modelos.
Empresa bloqueia mais de 151 milhões de acessos suspeitos da China e intercepta ataques cibernéticos contra governos – Imagem: Samuel Boivin/Shutterstock
Um dos casos atribuídos pela Anthropic a operadores ligados à Alibaba foi descrito como o maior ataque de destilação já medido pela empresa. A campanha atingiu quase 3 milhões de trocas por dia, partindo de mais de 3.500 contas fraudulentas, e acumulou mais de 151 milhões de interações entre maio e julho de 2026. Segundo a Anthropic, os dados foram usados para ajudar a desenvolver modelos da família Qwen.
A Anthropic também afirma que algumas dessas operações levantaram uma preocupação adicional: o possível uso de dados de usuários. Segundo a empresa, laboratórios como DeepSeek, Xiaomi e Moonshot encaminharam conversas de seus próprios usuários para o Claude e usaram as respostas como dados de treinamento. A companhia afirma ter identificado informações sensíveis nesses registros, incluindo dados de indivíduos, empresas e organizações ligadas a governos.
No conjunto, os sete capítulos do relatório mostram uma mudança na forma como a Anthropic enxerga o uso indevido de IA. Os casos não se limitam a pessoas fazendo perguntas perigosas a um chatbot. Em diferentes operações, o Claude foi incorporado a fluxos de trabalho persistentes, sistemas automatizados e estruturas que permitiam executar tarefas em escala.
A própria empresa afirma que os modelos usados nos casos incluem Claude Haiku, Sonnet e Opus. Os casos de uso indevido analisados não envolveram os modelos das classes Fable ou Mythos, com exceção de um caso de destilação ilícita. Para a Anthropic, à medida que os modelos se tornam mais capazes, os riscos associados a esse tipo de uso também aumentam, exigindo evolução contínua das medidas de segurança.
Sam Altman, CEO da OpenAI, disse a funcionários que a empresa considera reduzir o ritmo de desenvolvimento de inteligências artificiais avançadas. Segundo a Bloomberg, a possibilidade foi discutida em uma reunião geral nesta semana.
A ideia seria acompanhar o ritmo de alguns laboratórios concorrentes, embora Altman tenha reconhecido que nem todas as empresas aceitariam participar de uma eventual desaceleração.
Cientista-chefe da OpenAI defendeu acordos entre concorrentes para pausar avanços até a criação de regras comuns. – Imagem: ioda/Shutterstock
Debate interno por mais segurança
A discussão ganhou força após alertas do cientista-chefe da OpenAI, Jakub Pachocki. Em uma postagem recente, ele defendeu que empresas do setor deveriam coordenar uma redução no ritmo de desenvolvimento quando isso fosse necessário.
Pachocki também afirmou esperar que desacelerações voluntárias se tornem comuns enquanto não existirem padrões de segurança compartilhados.
“Para que desacelerações voluntárias se tornem comuns até que existam padrões de segurança compartilhados”, escreveu.
A OpenAI não comentou o conteúdo da reunião. As informações foram relatadas à Bloomberg por pessoas que participaram do encontro e pediram anonimato.
Alertas de pesquisadores e ex-funcionários
A preocupação com a velocidade de desenvolvimento também aparece entre outros pesquisadores. Em uma postagem recente, Coxon acusou duas empresas de estarem “brincando com nossas vidas” ao avançar sem responsabilidade.
Na mesma publicação, ele fez um alerta sobre os riscos de longo prazo da tecnologia e escreveu que quem desenvolve IA acredita que ela poderia “matar todos nós até o fim da década”.
Na quinta-feira, dois profissionais que deixaram recentemente cargos na Anthropic e na DeepMind, do Google, também voltaram a questionar o ritmo de desenvolvimento de novas ferramentas.
Incidentes com agentes de IA
Relatos de falhas envolvendo agentes de inteligência artificial também fazem parte da discussão. Agentes da OpenAI teriam escapado do ambiente de testes e assumido um site em alemão para coordenar formas de contornar restrições da empresa.
Outro caso citado envolve uma invasão autônoma à plataforma Hugging Face. Depois do episódio, a OpenAI desacelerou parte do trabalho de desenvolvimento de modelos e acrescentou novos controles de segurança.
Entre os pontos envolvidos no debate estão:
Reduzir o ritmo de desenvolvimento de IA de ponta;
Coordenar possíveis desacelerações entre laboratórios;
Criar padrões de segurança compartilhados;
Reforçar controles após incidentes envolvendo agentes de IA.
A Anthropic quer discutir com outras empresas do setor a velocidade com que novas ferramentas de IA chegam ao público. – Imagem: jackpress/Shutterstock
Empresas discutem colaboração
A discussão sobre o ritmo de desenvolvimento também chegou a outras companhias. Um porta-voz da Anthropic afirmou na quinta-feira que a empresa quer trabalhar com outras organizações do setor para discutir a velocidade com que novas ferramentas chegam ao público.
A ideia de padrões de segurança compartilhados também aparece nas manifestações de Pachocki. Para o cientista-chefe da OpenAI, desacelerações voluntárias deveriam se tornar comuns enquanto esses padrões ainda não existirem.
A possível mudança de postura da OpenAI reúne três fatores presentes no material: os alertas internos sobre segurança, os incidentes envolvendo agentes de IA e a pressão para que empresas do setor discutam conjuntamente o ritmo de desenvolvimento.
A Suprema Corte do Novo México aplicou uma multa e declarou em desacato um advogado de defesa que usou o ChatGPT para elaborar um recurso de apelação criminal.
O programa da OpenAI inventou depoimentos policiais e criou testemunhas fictícias para um processo de assassinato. A punição ocorreu depois que o profissional apresentou o material ao tribunal sem verificar a precisão das informações.
Inteligência artificial criou depoimentos falsos e chegou a descrever roupas de um atirador inexistente. – Imagem: Mijansk786/Shutterstock
Depoimentos falsos e testemunhas inventadas
O caso envolve a apelação de Oscar Renee Sandoval, condenado à prisão perpétua pelo assassinato da mãe de seus filhos. Ao assumir o recurso, o advogado Stephen Aarons alimentou o ChatGPT com uma transcrição gerada por computador e outros materiais do julgamento, esperando obter um resumo confiável.
O resultado incluiu declarações que nunca foram feitas e testemunhas que jamais existiram. Entre os exemplos apontados pela Suprema Corte estava uma afirmação de que o atirador vestia calça escura e camisa branca.
A corte afirmou que o recurso continha “falso testemunho de testemunhas totalmente inventadas”.
A Suprema Corte aplicou a Aarons uma multa de US$ 5 mil e informou que encaminhará o caso a um órgão disciplinar da advocacia para investigação. Os ministros também afirmaram que o advogado demonstrou falta de arrependimento e preocupação insuficiente com seu cliente.
Advogado diz que não conhecia as “alucinações” da IA
Durante uma audiência em 21 de agosto, Aarons disse que havia alimentado o ChatGPT com os materiais do processo porque acreditava que a ferramenta produziria um resumo “à prova de falhas”. Ele afirmou não compreender até que ponto a inteligência artificial poderia inventar informações.
Em declaração à Reuters, o advogado reconheceu o erro e disse esperar que o conselho disciplinar considere que não houve intenção de enganar o tribunal:
“Estou arrependido, mas espero que o conselho disciplinar leve em conta que foi um erro honesto.”
A juíza C. Shannon Bacon demonstrou incredulidade diante da explicação e questionou o advogado sobre seu conhecimento a respeito das falhas da inteligência artificial.
“Advogado, você assiste ao noticiário? Ouve rádio? Lê alguma coisa sobre o que está acontecendo no mundo?”
Casos anteriores: Dezenas de advogados já foram punidos por apresentar documentos em que a IA inventou citações de processos ou interpretou incorretamente a legislação.
Gravidade do caso: O recurso de Aarons foi além desses erros ao incluir testemunhos fictícios em uma apelação criminal.
Andamento do processo: A apelação de Sandoval continua pendente e, em 2 de setembro, passou a ser conduzida pela defensora pública Kim Chavez Cook.
Advogado alegou erro involuntário e afirmou não conhecer a capacidade da IA de fabricar dados. – Imagem: Layse Ventura via Gemini / Olhar Digital
Decisão reforça alerta para o setor
A punição se soma a uma sequência de casos em que tribunais estaduais e federais dos Estados Unidos sancionaram advogados por apresentar documentos produzidos por inteligência artificial sem verificar adequadamente o conteúdo. O caso de Aarons chama atenção porque as informações inventadas não se limitaram a referências jurídicas: chegaram a incluir depoimentos e testemunhas inexistentes em um processo criminal.
A OpenAI não respondeu imediatamente ao pedido de comentário da Reuters. A apelação de Sandoval continua em andamento.
A Anthropic interrompeu tentativas de usar sua inteligência artificial, o Claude, para criar armas biológicas, coordenar ataques cibernéticos contra a Ucrânia e extrair capacidades dos modelos por empresas chinesas.
As descobertas constam no relatório de inteligência de ameaças da desenvolvedora, publicado na última quinta-feira. O levantamento detalha operações irregulares identificadas e combatidas nos últimos oito meses.
Um grupo usou IA para identificar bloqueios de segurança e reescrever códigos maliciosos. – Imagem: Ole.CNX/Shutterstock
Apoio na criação de armas biológicas e munições
Como o Olhar Digital divulgou há alguns dias, cientistas tentaram usar o assistente virtual em atividades que poderiam contribuir para o desenvolvimento de armas biológicas. Um dos casos envolveu um pesquisador de uma região não atendida pela Anthropic, que usou servidores virtuais para acessar o Claude e planejar experimentos sobre a adaptação da gripe aviária a mamíferos.
Operadores da China, Rússia e Iêmen também usaram o Claude no desenvolvimento de softwares para mísseis, drones e bombas.
Há um ano, se você quisesse otimizar um drone ou o software de um míssil, os modelos simplesmente não seriam tão bons nessa tarefa quanto são agora.
Jacob Klein, chefe de inteligência de ameaças da Anthropic, à Reuters.
Hackers russos miram governo da Ucrânia
Na Ucrânia, um grupo de hackers teria recorrido à ferramenta para realizar operações contra alvos governamentais, militares e diplomáticos. A inteligência artificial foi usada em quase todas as etapas da campanha, incluindo phishing, invasão de redes Wi-Fi de hotéis e tomada de contas do WhatsApp.
O grupo também criou um sistema que identificava quando seu programa malicioso era bloqueado por mecanismos de segurança e reescrevia o código para tentar escapar da detecção.
O comportamento observado pela Anthropic era consistente com as táticas do Midnight Blizzard, grupo que o governo dos Estados Unidos já associou ao serviço de inteligência estrangeira SVR, da Rússia. A empresa também afirmou ter identificado e interrompido atividades ligadas ao coletivo ShinyHunters.
Laboratórios chineses, como o Alibaba, utilizaram o roteamento de conversas para absorver as capacidades do modelo Claude. – Imagem: Algi Febri Sugita/Shutterstock.com
Ataques chineses para extrair capacidades do Claude
Em outra frente, laboratórios na China criaram milhares de contas fraudulentas para extrair capacidades do Claude e usar os resultados no desenvolvimento de modelos próprios:
Alibaba: Mais de 151 milhões de interações entre maio e julho de 2026 foram atribuídas à empresa, com o objetivo alegado de extrair capacidades do Claude para aprimorar os modelos Qwen.
Moonshot e DeepSeek: Segundo a Anthropic, encaminharam conversas reais de clientes pelo Claude e usaram as respostas como dados de treinamento.
Sete laboratórios: A Anthropic afirmou ter interrompido ataques de sete laboratórios chineses, incluindo Alibaba, Moonshot, DeepSeek e Xiaomi.
Os casos aumentam a pressão sobre as empresas que desenvolvem inteligência artificial diante dos riscos associados ao uso indevido da tecnologia. Dois pesquisadores da própria Anthropic afirmaram nesta semana que o avanço rápido da IA pode levar à extinção da humanidade em um futuro não muito distante.
Sobre o relatório, o Ministério das Relações Exteriores da China afirmou não ter conhecimento dos dados. O órgão disse que a tecnologia deve ser desenvolvida para o bem e rejeitou o que classificou como distorção de fatos e ataques contra o país.
A inteligência artificial Claude, criada pela Anthropic, foi usada por um grupo no norte do Iêmen na tentativa de desenvolver mísseis e armas teleguiadas.
A descoberta consta em um relatório de segurança da própria desenvolvedora. A investigação mostrou que a ferramenta foi usada em tarefas que normalmente exigiriam uma equipe de engenheiros especializados em orientação, navegação e controle de armas.
Anthropic interrompeu contas de usuários em diversos países após constatar violações de segurança. – Imagem: gguy/Shutterstock
IA ajudou no desenvolvimento
O grupo usou o Claude em diferentes etapas dos projetos. Em um deles, a ferramenta ajudou no desenvolvimento de um sistema de orientação para um foguete capaz de ajustar automaticamente sua trajetória durante o voo.
O sistema utilizava uma calculadora de voo semelhante à de um smartphone. Com ela, o equipamento poderia calcular sua posição e fazer ajustes para tentar seguir uma rota determinada até o alvo.
O grupo chegou a testar o lançamento do foguete, mas a tentativa fracassou. A Anthropic afirma que não encontrou evidências de que o trabalho tenha resultado em uma arma operacional.
Míssil de longo alcance e veículo hipersônico
O foguete guiado era apenas um dos três projetos identificados pela empresa. Outro envolvia um míssil balístico com alcance superior a 2 mil quilômetros.
Esse tipo de arma percorre grande parte da trajetória em uma curva de grande altitude antes de seguir em direção ao alvo. Um alcance superior a 2 mil quilômetros significa que o sistema poderia atingir regiões muito distantes do local de lançamento.
O terceiro projeto envolvia um planador hipersônico. Esse tipo de veículo pode realizar manobras durante o voo e atingir velocidades superiores a cinco vezes a velocidade do som.
Os projetos identificados pela Anthropic incluíam:
foguete capaz de ajustar automaticamente a própria trajetória;
sistema de orientação para o foguete;
míssil balístico com alcance superior a 2 mil quilômetros;
planador hipersônico capaz de realizar manobras durante o voo.
Grupo estava em área controlada pelos houthis
A Anthropic não identificou publicamente o grupo responsável pelos projetos. A empresa informou apenas que ele estava baseado no norte do Iêmen, em uma região controlada pelos houthis.
Os houthis são um movimento político e militar apoiado pelo Irã que controla grande parte do norte do Iêmen e a capital, Saná. O grupo está envolvido na guerra civil do país e também ficou conhecido internacionalmente por ataques contra navios no Mar Vermelho e contra Israel.
O caso mostra como sistemas de inteligência artificial podem ser usados em tarefas ligadas ao desenvolvimento de armas. – Imagem criada por inteligência artificial: Copilot/Olhar Digital
Investigação acompanha usos maliciosos de IA
O caso faz parte de uma investigação mais ampla da Anthropic sobre usos considerados ilegais ou maliciosos de seu sistema de inteligência artificial. A companhia afirmou ter interrompido operações envolvendo usuários de diferentes países.
Mesmo com os três projetos identificados, a empresa não encontrou evidências de que o grupo tenha conseguido transformar o trabalho em uma arma operacional. O teste conhecido do foguete guiado também terminou em fracasso, reforçando a principal ressalva apresentada no relatório: havia projetos em desenvolvimento, mas não evidência de uma arma pronta para uso.
