Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
A medida tenta equilibrar dois pontos sensíveis: preservar a privacidade dos jovens e permitir que familiares recebam informações para oferecer ajuda em situações de risco.
Conversas com o Meta AI poderão gerar alertas quando houver sinais de automutilação ou pensamentos suicidas. – Imagem: Regi Cris/Shutterstock
Alertas serão enviados após análise das conversas
O recurso será disponibilizado para pais que utilizam as ferramentas de supervisão do Instagram. Quando o Meta AI identificar uma conversa que sugira possível risco, os responsáveis poderão receber uma notificação acompanhada de orientações de especialistas.
A Meta explica que o sistema foi criado para identificar referências diretas e também sinais mais discretos de sofrimento emocional. Antes que qualquer alerta seja enviado, as conversas marcadas pela inteligência artificial passarão por uma revisão manual.
Caso a intenção do adolescente não esteja totalmente clara, a empresa afirma que seguirá uma abordagem preventiva e poderá comunicar os pais para evitar que uma possível situação de risco passe despercebida.
Entre os casos que podem gerar alertas estão:
comentários diretos ou indiretos sobre vontade de se machucar;
conversas relacionadas a sofrimento emocional intenso;
sinais identificados pelo sistema desenvolvido pela Meta;
situações em que o adolescente possa precisar de apoio fora do ambiente digital.
A empresa destaca que o recurso não substitui acompanhamento profissional nem o diálogo entre pais e filhos. A proposta é ajudar responsáveis a perceber sinais que poderiam passar despercebidos.
Embora eu acredite que os adolescentes têm direito à privacidade, também acredito que os pais precisam ser informados se seus filhos podem estar em risco de se machucar.
Larry Magid, CEO e cofundador da ConnectSafely, em nota.
Contas de adolescentes terão regras mais rígidas no Meta AI para limitar conteúdos considerados inadequados. – Imagem: Fabio Principe/Shutterstock
Meta quer ampliar proteção para situações extremas
Além dos avisos aos familiares, a Meta desenvolve uma ferramenta capaz de acionar serviços de emergência quando uma conversa com o Meta AI indicar risco imediato de suicídio, seja envolvendo adolescentes ou adultos.
A iniciativa segue uma estratégia semelhante à já aplicada em Facebook e Instagram. Segundo a empresa, mais de 19 mil encaminhamentos para serviços de emergência foram realizados no último ano após a identificação de publicações com risco de suicídio.
Para melhorar o comportamento da inteligência artificial, a Meta consultou mais de 75 profissionais especializados em saúde mental de adolescentes. Eles analisaram centenas de respostas e sugeriram ajustes para tornar o sistema mais adequado.
Antes de avisar os pais, conversas identificadas pela IA passarão por revisão manual para confirmar possíveis riscos. – Imagem: DavideAngelini / Shutterstock
Meta AI terá regras mais rígidas para adolescentes
Contas de adolescentes já utilizam automaticamente uma configuração de conteúdo voltada para usuários com 13 anos ou mais. Nesse modo, o Meta AI evita participar de conversas sexuais ou românticas e não fornece conteúdos como receitas de bebidas alcoólicas.
A empresa também informou que o modo “Conteúdo Limitado”, opção mais restritiva disponível no Instagram, passará a afetar as conversas com o assistente de IA. Com isso, pais poderão reduzir ainda mais os tipos de interação disponíveis para adolescentes.
Segundo a psicóloga Ji-yeon Lee, que participou da análise das respostas do sistema, a avaliação especializada foi essencial para aprimorar a ferramenta. “Esse tipo de refinamento baseado em especialistas e cenários é essencial para tornar as experiências com IA mais seguras para adolescentes”, afirmou.
Os novos alertas já funcionam para pais que usam a supervisão do Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá. A Meta prevê ampliar o recurso para outros países até o fim do ano.
A inteligência artificial avança em ritmo acelerado, mas um novo levantamento mostra que a segurança ainda não acompanha essa evolução. As principais empresas do setor continuam longe de atingir os padrões considerados ideais.
Segundo a AFP, a Anthropic lidera uma avaliação internacional de segurança em IA. Mesmo assim, nenhuma das companhias analisadas alcançou a nota máxima no índice.
Nenhuma das empresas avaliadas recebeu nota A, mostrando que a segurança da IA ainda é um desafio. – Imagem: Tada Images/Shutterstock
Avaliação revela cenário distante do ideal
O estudo foi elaborado pelo Future of Life Institute, um think tank americano voltado à segurança em inteligência artificial. A entidade avaliou nove das principais empresas do setor com base em informações públicas e dados fornecidos pelas próprias organizações.
A análise considerou seis áreas: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações.
A Anthropic obteve o melhor resultado geral, com nota C+, mas nenhuma empresa recebeu conceito A em qualquer uma das categorias avaliadas. O resultado mostra que até mesmo as companhias mais avançadas no desenvolvimento de IA ainda enfrentam desafios para lidar com possíveis riscos.
O ranking geral de segurança em IA ficou assim:
Anthropic — nota geral C+ | pontuação 2,66
OpenAI — nota geral C | pontuação 2,28
Google DeepMind — nota geral C | pontuação 2,01
MetaAI — nota geral D+ | pontuação 1,32
Z.ai — nota geral D- | pontuação 0,88
Alibaba Cloud — nota geral D- | pontuação 0,87
xAI — nota geral F | pontuação 0,65
DeepSeek — nota geral F | pontuação 0,47
Mistral — nota geral F | pontuação 0,33
Os principais aspectos avaliados foram:
Avaliação dos riscos associados aos modelos de IA.
Medidas para reduzir danos já identificados.
Estruturas internas voltadas à segurança.
Transparência, governança e compartilhamento de informações.
Preparação para riscos considerados existenciais.
A avaliação analisou critérios como governança, danos atuais e estruturas de segurança das companhias. Mistral ficou na última posição. – Imagem: Mehaniq/Shutterstock
Riscos vão além dos problemas atuais
Entre as conclusões do levantamento, uma das mais preocupantes envolve as chamadas ameaças existenciais. O termo se refere, por exemplo, ao desenvolvimento de modelos capazes de atingir um nível de inteligência semelhante ao humano, conhecido como inteligência artificial geral (AGI).
Os autores reconhecem que “existam tentativas construtivas”, mas avaliam que os esforços continuam “totalmente insuficientes”. O documento também alerta para a possibilidade de esses modelos serem usados em ciberataques ou em outras ações potencialmente prejudiciais às pessoas.
A preocupação aumenta à medida que os sistemas ficam mais avançados e passam a executar tarefas cada vez mais complexas. Para os pesquisadores, acompanhar essa evolução com mecanismos de segurança adequados continua sendo um dos maiores desafios do setor.
O estudo alerta para riscos como uso indevido de modelos de IA em ciberataques e ações prejudiciais. – Imagem: solarseven/Shutterstock
Uso militar também entra em debate
Outro ponto destacado é a mudança de postura de parte das empresas em relação ao uso militar da tecnologia. Segundo o relatório, algumas companhias que antes restringiam esse tipo de aplicação vêm flexibilizando suas políticas.
A Anthropic aparece entre elas e é criticada por manter “compromissos militares questionáveis”. De acordo com relatos da imprensa citados pela AFP, a tecnologia da empresa foi utilizada pelo governo dos Estados Unidos em operações militares na Venezuela e no Irã durante o último ano.
O documento também lembra que a companhia foi recentemente alvo de uma proibição do Pentágono por divergências relacionadas à segurança da IA.
O alerta continua para o setor
Mesmo ocupando a primeira posição do ranking, a Anthropic ficou distante da nota máxima. O resultado reforça um cenário em que as maiores empresas de inteligência artificial ainda precisam lidar com limitações importantes na proteção contra riscos.
Para o Future of Life Institute, embora existam iniciativas voltadas à segurança, os esforços atuais continuam insuficientes diante dos desafios que acompanham o avanço rápido da inteligência artificial.
Uma nova técnica de ataque explora uma limitação dos modelos de IA e pode comprometer milhares de computadores.
Segundo a Ars Technica, a descoberta envolve nove ferramentas populares usadas por programadores e mostra como uma característica dos assistentes de IA pode ser explorada por criminosos.
Uma simples “alucinação” da IA pode ser suficiente para levar um assistente a baixar código malicioso sem perceber. – Imagem: Layse Ventura via Gemini / Olhar Digital
Quando a IA inventa um caminho
O ataque recebeu o nome de HalluSquatting e aproveita uma característica conhecida dos grandes modelos de linguagem (LLMs): quando não conseguem localizar um projeto, eles podem inventar um endereço em vez de admitir que não sabem onde ele está.
Parece apenas um detalhe técnico. Mas é justamente aí que o golpe começa. Os criminosos registram esses endereços antes, inserem códigos maliciosos e esperam que um assistente de programação tente acessá-los automaticamente.
Segundo a pesquisa, a técnica funciona contra ferramentas bastante conhecidas, como:
Cursor e Cursor CLI;
Gemini CLI;
GitHub Copilot;
Windsurf, Cline, OpenClaw, ZeroClaw e NanoClaw.
Antes de aceitar uma sugestão da IA, vale a pena conferir se o repositório realmente existe e é o correto. – Imagem: Jack_the_sparow/Shutterstock
Um ataque que cresce sozinho
A maioria das injeções de prompt depende de uma ação direcionada contra cada vítima. O HalluSquatting muda completamente essa lógica.
São os próprios agentes de IA que procuram projetos durante tarefas rotineiras. Segundo os pesquisadores, “a natureza escalável do ataque permite que o invasor comprometa um grande número de usuários com esforço mínimo”.
Se o desenvolvedor solicitar a instalação de um projeto recém-publicado e o sistema errar o endereço, poderá acabar acessando justamente a página preparada pelo criminoso.
Projetos novos são o alvo preferido
Os testes mostraram que os LLMs localizam corretamente a maioria dos projetos publicados antes de 2019. Já entre os lançamentos de 2025, a taxa média de alucinação chega a 92,4%.
Como esses projetos ainda não fazem parte do treinamento dos modelos, aumentam as chances de a IA criar endereços inexistentes. A equipe também identificou padrões previsíveis nessas respostas, o que facilita o registro antecipado desses nomes por invasores.
Uma falha aparentemente pequena pode abrir caminho para botnets, ransomware e ataques DDoS em larga escala. – Imagem: janews/Shutterstock
Uma simples alucinação pode abrir a porta
Se o código malicioso for executado, o computador poderá passar a integrar uma rede controlada remotamente pelos criminosos.
Os pesquisadores apontam riscos como:
criação de botnets;
ataques de ransomware;
ataques distribuídos de negação de serviço (DDoS);
mineração ilegal de criptomoedas.
Michael Bargury, CTO da Zenity, resumiu a preocupação: “É uma pesquisa muito interessante, e a ameaça é muito real.” Já Johann Rehberger afirmou que a forma como os LLMs localizam projetos pode se transformar em um novo vetor de ataque.
A pesquisa reforça que assistentes de IA ainda precisam de supervisão humana. Antes de instalar projetos, bibliotecas ou componentes sugeridos automaticamente, vale confirmar se a origem realmente corresponde ao recurso desejado. Esse cuidado simples pode evitar que uma alucinação do modelo se transforme em uma brecha de segurança.
A Alibaba vai proibir seus funcionários de usar as ferramentas de inteligência artificial (IA) da Anthropic para fins de trabalho a partir desta sexta-feira (10).
A empresa chinesa incluiu o Claude Code em uma lista interna de softwares de alto risco, alegando que a companhia estadunidense representa riscos de segurança por meio de backdoors. A informação foi confirmada pela CNBC com pessoas familiarizadas com o assunto, que pediram anonimato para falar sobre operações internas.
Os funcionários da Alibaba estão sendo obrigados a desinstalar todos os modelos e produtos de agentes da Anthropic e a adotar o assistente de IA próprio da empresa chinesa, chamado Qoder.
O contexto da decisão
A medida ocorre após a Anthropic enviar, em junho, uma carta ao Comitê do Senado dos Estados Unidos sobre Bancos, Habitação e Assuntos Urbanos;
No documento, a empresa estadunidense acusou a Alibaba de tentar extrair suas capacidades de IA de forma “descarada” e “ilícita”, classificando a ação como “o maior ataque de destilação conhecido” contra ela até o momento;
Os termos de serviço da Anthropic proíbem empresas chinesas e de outras “nações adversárias” de usar seus modelos;
A decisão da Alibaba coincide ainda com uma onda de reações negativas na China contra a Anthropic, após publicações no Reddit e no GitHub descreverem o uso de código oculto destinado a detectar se usuários estariam baseados no país.
Empresa dos EUA acusa a chinesa de ataque de destilação – Imagem: Samuel Boivin/Shutterstock
O Financial Timesreportou na sexta-feira (3) que a Anthropic está tomando medidas para fechar brechas que permitiram a empresas chinesas contornar as restrições e acessar o Claude por meio de terceiros países.
O jornal britânico citou fontes segundo as quais o grupo de fintech Ant teria fornecido a funcionários contas corporativas do Claude acessadas pela intranet da empresa, conectada à sua entidade sediada em Singapura.
Ainda segundo o FT, a ByteDance, controladora do TikTok, não facilita o acesso ao Claude, mas iniciou um programa de reembolso que permite a engenheiros registrar assinaturas pessoais como despesas, acessadas por redes privadas virtuais.
Uma pessoa familiarizada com o assunto disse à CNBC que a política, divulgada em 2 de abril, tem como objetivo incentivar os funcionários a “experimentar e aprender” sobre uma gama mais ampla de produtos de IA para aprimorar suas habilidades. A pessoa pediu anonimato para falar sobre políticas internas.
Ant e ByteDance não comentaram o relato do Financial Times. Alibaba e Anthropic também não se manifestaram.
A Agência de Segurança Cibernética e de Infraestrutura dos Estados Unidos (CISA, na sigla em inglês) está utilizando o modelo de inteligência artificial Mythos, desenvolvido pela Anthropic, para auditar códigos de software do governo em busca de vulnerabilidades de segurança. A informação foi divulgada nesta segunda-feira (6) por três fontes com conhecimento do assunto à Reuters.
Segundo as fontes, a ferramenta está sendo empregada para analisar repositórios de código do governo estadunidense em busca de falhas que possam ser exploradas por espiões estrangeiros ou criminosos cibernéticos.
De acordo com uma das fontes, o trabalho de análise está sendo conduzido pela equipe Attack Surface Evaluation, unidade da CISA responsável por realizar avaliações de segurança digital e exercícios de invasão em órgãos do governo.
Duas das fontes afirmaram que as auditorias já identificaram um grande número de vulnerabilidades, mas não forneceram detalhes. A Reuters não conseguiu confirmar quanto código-fonte já foi analisado nem a quantidade, a natureza ou a gravidade das falhas encontradas.
Relação conturbada entre Anthropic e governo dos EUA
A utilização do Mythos pela CISA ocorre em meio a uma relação marcada por tensões entre a Anthropic e o governo dos Estados Unidos.
A empresa, sediada em San Francisco e que apresentou de forma confidencial um pedido de abertura de capital (IPO) nos Estados Unidos, enfrentou um dos momentos mais delicados dessa relação em fevereiro, quando se recusou a remover mecanismos de proteção que impediam que sua inteligência artificial fosse utilizada em armas autônomas ou em sistemas de vigilância doméstica.
Como consequência, o Departamento de Defesa dos Estados Unidos classificou formalmente a Anthropic como um risco para a cadeia de suprimentos, uma designação que, até então, havia sido aplicada apenas a empresas estrangeiras suspeitas de facilitar atividades de espionagem.
Essa medida acabou sendo bloqueada por um juiz em março. Desde então, o conflito diminuiu após o lançamento privado do Mythos, modelo de inteligência artificial descrito como altamente capaz de identificar e explorar vulnerabilidades de segurança cibernética.
Outras agências federais também estariam utilizando a IA da Anthropic – Imagem: Samuel Boivin/Shutterstock
Segundo informações publicadas anteriormente pelo Axios, a Agência de Segurança Nacional dos Estados Unidos (NSA) utiliza o Mythos desde pelo menos abril, mesmo durante o período em que a classificação de risco ainda estava em vigor.
No fim do mês passado, o jornal The New York Times informou que analistas da NSA vinham testando o modelo em ambientes classificados e haviam ficado impressionados com suas capacidades.
Posteriormente, a Anthropic lançou uma versão pública do Mythos chamada Fable, que, segundo a empresa, incluía mecanismos de proteção voltados para segurança cibernética.
Após esse lançamento, a Casa Branca exigiu que a Anthropic impedisse o acesso de usuários estrangeiros ao modelo. A decisão provocou uma suspensão global da ferramenta, que só foi encerrada na semana passada.
O que dizem os citados
A Reuters procurou a Anthropic, que não respondeu aos questionamentos sobre a iniciativa. Um representante da CISA informou no mês passado que verificaria se havia informações que poderiam ser compartilhadas sobre o projeto, mas não respondeu aos contatos posteriores. Por fim, a NSA não quis comentar o assunto.
Um pesquisador conseguiu usar a IA Claude Opus 4.7 para explorar uma falha em um sistema de ingressos usado por grandes festivais dos Estados Unidos, segundo reportagem da WIRED. O sistema é da Front Gate Tickets, que opera vendas para eventos como Lollapalooza e Bonnaroo.
O ponto que mais chama atenção aqui é que a própria IA acabou entrando no meio de um teste de segurança e acelerou a descoberta de um problema sério.
Falha em sistema de tickets teria permitido acesso a dados internos e emissão de ingressos sem restrições. – Imagem: wutianzeri/Shutterstock
Como a IA entrou na investigação
O pesquisador de segurança Ian Carroll identificou uma possível vulnerabilidade no site da Front Gate Tickets e decidiu testar a hipótese com ajuda do Claude Opus 4.7.
Ele relata que a IA sugeriu uma abordagem baseada em SQL injection, uma falha clássica que explora entradas de dados para interferir no banco de informações de um sistema. Em alguns momentos, Carroll afirma que teve que parar e reler o que a própria IA estava sugerindo, porque o caminho não era tão óbvio assim.
E aqui entra o detalhe mais sensível: uma consulta SQL aninhada teria permitido contornar o firewall da aplicação. Isso abriu uma brecha que expôs partes internas do sistema.
Sistema de ingressos teria exposto dados e contas administrativas após exploração de vulnerabilidade com ajuda de IA. – Imagem: Digineer Station/Shutterstock
O que a falha poderia permitir
Ao avançar na exploração, Carroll afirma que conseguiu acessar informações internas e assumir contas administrativas. Em certo ponto, ele encontrou códigos de redefinição de senha armazenados no sistema — e isso foi o suficiente para chegar ao controle de um superadministrador.
Na prática, isso significaria algo bem direto: possibilidade de emitir ingressos sem restrições, inclusive os mais caros da plataforma, que podem chegar a cerca de 4 mil dólares (aproximadamente R$ 20 mil).
acesso a dados de clientes e funcionários
emissão de ingressos VIP e de alto valor
controle de contas administrativas
exploração de API interna do sistema
Segundo o pesquisador, a falta de autenticação em dois fatores em alguns acessos administrativos só piorava o cenário. Não era uma barreira forte o bastante.
Vulnerabilidade teria impacto potencial em dados de usuários e estrutura interna do sistema de bilheteria. – Imagem: enzozo/Shutterstock
Reação das empresas após a descoberta
Depois do relato, a Front Gate disse que corrigiu o problema em cerca de 24 horas e afirmou não haver evidências de exploração real nem de vazamento de dados de clientes.
A empresa também reforçou que a falha estava restrita a um sistema interno e que auditorias ajudariam a identificar qualquer uso indevido. Ou seja, na visão deles, o impacto teria sido controlado.
Já a Anthropic afirmou que seu programa de verificação em segurança cibernética permite o uso controlado de ferramentas de IA justamente para testar e melhorar sistemas digitais.
O que esse caso revela sobre IA e segurança
Carroll descreveu o episódio como algo surpreendente e destacou que foi possível ver um ingresso de alto valor ser manipulado dentro do sistema sem grandes barreiras técnicas.
E talvez o ponto mais incômodo seja esse: a diferença entre a aparência “profissional” de grandes plataformas e a fragilidade real por trás delas.
No fim, o caso mostra uma mudança importante. A IA não está só ajudando a automatizar tarefas do dia a dia — ela também está acelerando a descoberta de falhas que, até pouco tempo atrás, exigiam muito mais esforço humano para serem encontradas.
Os receios de que o modelo de inteligência artificial (IA)Mythos, da Anthropic, pudesse impulsionar de forma descontrolada atividades de hackers vêm sendo considerados exagerados por parte da comunidade de cibersegurança cerca de um mês após o anúncio da tecnologia.
Quando apresentou o sistema em abril, a Anthropic afirmou que o Mythos havia identificado milhares de vulnerabilidades de software, incluindo falhas em todos os principais sistemas operacionais e navegadores. Segundo a empresa, os impactos da disseminação do modelo poderiam ser severos.
As declarações chamaram a atenção de governos. Autoridades de diversos países passaram a discutir riscos com bancos, enquanto a Casa Branca avaliava, no início de maio, possíveis regras para controlar a forma como novos modelos de IA são disponibilizados após testes de segurança.
Apesar disso, profissionais da área de cibersegurança têm adotado uma postura mais cautelosa. Parte dos especialistas considera que a reação pública e política ao Mythos foi além do que as capacidades atuais do sistema efetivamente demonstram.
“Eu acho que existe uma grande lacuna de comunicação entre profissionais da área e formuladores de políticas públicas”, afirmou Isaac Evans, fundador e CEO da empresa de segurança de software Semgrep, à Reuters. Segundo ele, o modelo representa “um avanço técnico real”, mas a resposta em torno da tecnologia “não é sustentada pelo que realmente sabemos sobre como essas capacidades irão se traduzir no mundo real”.
Especialistas que utilizaram o modelo em ambientes controlados relataram melhorias substanciais na descoberta de vulnerabilidades. Equipes de tecnologia de bancos também vêm trabalhando para corrigir diversas fragilidades em sistemas bancários de grande e pequeno porte.
As preocupações aumentaram após sucessivos relatos envolvendo casos de ataques cibernéticos ligados ao uso de IA. Em 11 de maio, o Googleinformou ter detectado o primeiro caso conhecido de um grande grupo de cibercrime utilizando IA para descobrir uma falha de software até então desconhecida e planejar uma exploração em massa.
Quando apresentou o sistema em abril, a Anthropic afirmou que o Mythos havia identificado milhares de vulnerabilidades de software, incluindo falhas em todos os principais sistemas operacionais e navegadores – Imagem: Samuel Boivin/Shutterstock
Especialistas apontam risco mais moderado
A diferença entre a percepção de risco de profissionais da segurança e a visão de formuladores de políticas públicas ajudou a alimentar a narrativa de que o Mythos estaria no centro de uma iminente crise de segurança digital, embora capacidades semelhantes já estivessem disponíveis há algum tempo;
“Somos capazes de usar IA para encontrar mais falhas do que sabemos o que fazer com elas há meses, talvez anos”, afirmou uma fonte com ampla experiência em pesquisa de vulnerabilidades e acesso antecipado ao Mythos à Reuters;
Segundo essa pessoa, o desafio não está apenas em encontrar vulnerabilidades, mas em validá-las, priorizá-las e corrigi-las sem comprometer sistemas existentes. A capacidade das organizações de processar e validar um grande volume de falhas recém-descobertas ainda seria insuficiente;
Mesmo assim, a fonte reconheceu avanços do Mythos em relação a modelos anteriores. “Ele é capaz de encontrar mais vulnerabilidades com prompts mais simples do que os modelos anteriores”, afirmou. Segundo a avaliação, sistemas anteriores exigiam instruções mais detalhadas e complexas, o que significa que a barreira de entrada foi reduzida.
Anthony Grieco, vice-presidente sênior e diretor de segurança e confiança da Cisco, afirmou que uma das novidades mais úteis do Mythos é a capacidade não apenas de identificar vulnerabilidades, mas também de analisar grandes volumes de código de maneira muito mais rápida e ajudar especialistas a reduzir falsos positivos.
Segundo Grieco, isso permite que equipes de defesa foquem nos riscos cibernéticos mais urgentes dentro de seus contextos. Ele também afirmou que o modelo possui menos barreiras de proteção do que sistemas anteriores, permitindo instruções mais específicas capazes de habilitar atividades que outros modelos não permitiam.
Grieco afirmou que, para aproveitar totalmente o potencial do Mythos, as organizações precisam contar com infraestrutura computacional adequada e também com um ambiente controlado de execução, conhecido como “harness”, no qual o modelo opera com instruções e limitações específicas.
“Se você tem um carro de Fórmula 1, mas só andou de bicicleta a vida inteira, talvez consiga fazê-lo andar em linha reta, mas você não vai conseguir extrair o máximo desempenho imediatamente”, disse Grieco.
A estratégia da Anthropic de apresentar o Mythos dessa forma e convidar empresas selecionadas para testar defesas em um programa chamado Project Glasswing ajudou a ampliar o debate sobre o modelo para além dos círculos tradicionais de segurança.
Como resultado, houve uma mobilização ampla em torno do tema, o que ampliou tanto a percepção de ameaça quanto a relevância da Anthropic no debate público. Enquanto isso, o Pentágono classificou a empresa como um risco para cadeias de suprimentos, ao passo que outros setores do governo estadunidense buscavam acesso à tecnologia.
Segundo um funcionário da Casa Branca ouvido pela Reuters, o governo dos Estados Unidos vem discutindo com laboratórios de IA uma utilização mais ampla dessas tecnologias.
Um porta-voz da Anthropic afirmou que a empresa trabalha “de perto com o governo dos Estados Unidos para avançar rapidamente prioridades compartilhadas” e também para ampliar o acesso de mais organizações ao Mythos.
Encontrar vulnerabilidades é apenas o começo
O Mythos — e, em certa medida, o GPT-5.5, da OpenAI — passou a dominar discussões sobre segurança nacional relacionadas à inteligência artificial (IA).
No entanto, especialistas afirmam que esses debates frequentemente ignoram um ponto central: o uso de IA para localizar vulnerabilidades não é algo novo. O problema maior estaria nas etapas seguintes de exploração e resposta.
“Nossos adversários ficaram realmente muito bons sem IA”, afirmou Cynthia Kaiser, ex-integrante sênior da divisão de cibersegurança do FBI e atualmente ligada à empresa Halcyon. “Ataques de ransomware estão acontecendo em menos de uma hora”, disse ela, acrescentando que a maioria das ameaças ainda não depende de IA.
Por enquanto, as exigências de escala computacional e infraestrutura do Mythos também limitam quem consegue utilizar o sistema. Especialistas, porém, acreditam que essas barreiras não devem durar muito tempo.
“Eu não acho que a arquitetura esteja otimizada”, afirmou Nick Adam, da empresa de serviços financeiros State Street, durante um painel na Vanderbilt University (EUA). Ele citou justamente os desafios de infraestrutura e ambiente operacional mencionados por Grieco. “Existe uma barreira de entrada, mas ela será resolvida rapidamente.”
Especialistas afirmam que esses debates frequentemente ignoram um ponto central: o uso de IA para localizar vulnerabilidades não é algo novo – Imagem: Digineer Station/Shutterstock
Anthropic fará apresentação a órgão global de estabilidade financeira
Em meio às discussões sobre os riscos do Mythos, a Anthropic deverá apresentar ao Financial Stability Board (FSB) vulnerabilidades cibernéticas identificadas pelo modelo no sistema financeiro global.
Segundo o jornal Financial Times, a startup responsável pelo chatbot Claude discutirá as capacidades do Mythos Preview com ministérios da Fazenda e bancos centrais ligados ao FSB, após um pedido do presidente da instituição e governador do Bank of England, Andrew Bailey.
O FSB é um órgão internacional responsável por coordenar regras financeiras entre as economias do G20. Um porta-voz do FSB afirmou que a organização “recebe positivamente o engajamento com a Anthropic e outras empresas sobre riscos emergentes e de fronteira para a estabilidade financeira global”.
A Anthropic não respondeu imediatamente aos pedidos de comentário da Reuters. Segundo a empresa, o Mythos é um modelo de cibersegurança projetado para detectar vulnerabilidades antigas em navegadores, infraestrutura e softwares.
Especialistas em segurança cibernética alertaram que o sistema poderia potencializar ataques mais sofisticados, criando riscos para o setor bancário, especialmente devido à dependência de sistemas legados.
Em abril, Bailey afirmou que o Mythos poderia representar riscos significativos para a segurança cibernética global.
“Seria razoável pensar que os eventos no Golfo são o desafio mais recente que enfrentamos neste mundo até que, acho que foi na última sexta-feira [11 de abril], você acorda e descobre que a Anthropic pode ter encontrado uma forma de abrir completamente o mundo do risco cibernético”, afirmou Bailey durante um evento na Universidade de Columbia, em Nova York (EUA).
“A questão é: até que ponto essa nova versão do produto será capaz de identificar vulnerabilidades em outros sistemas que possam ser exploradas para ataques cibernéticos”, acrescentou Bailey.
Pesquisadores de segurança afirmam ter descoberto uma nova maneira de contornar os sistemas avançados de proteção da Apple utilizando técnicas identificadas durante testes realizados, em abril, com uma versão inicial da inteligência artificial (IA) Mythos, da Anthropic.
A descoberta foi feita por especialistas da Calif, empresa de pesquisa em segurança sediada em Palo Alto, na Califórnia (EUA). Segundo os pesquisadores, o método desenvolvido conecta duas falhas do MacOS a um conjunto de técnicas capazes de corromper a memória do computador e obter acesso a áreas do dispositivo que deveriam permanecer inacessíveis.
O mecanismo é classificado como um exploit de escalonamento de privilégios — tipo de ataque que, quando combinado com outras vulnerabilidades, pode permitir que hackers assumam o controle completo de uma máquina.
Para especialistas do setor, o caso chama atenção porque a Apple vem investindo intensamente para tornar o MacOS um dos sistemas operacionais mais difíceis de serem invadidos.
Michał Zalewski, pesquisador de segurança que trabalhou anteriormente no Google e revisou o estudo da Calif sem participar dos testes, afirmou ao The Wall Street Journal que a técnica é relevante justamente pelo nível de proteção implementado pela empresa.
O que diz a Apple sobre a descoberta
A Apple informou que está analisando o relatório produzido pela Calif para validar as conclusões apresentadas. A companhia também destacou que utiliza modelos avançados de IA para testar e corrigir vulnerabilidades.
“Segurança é nossa principal prioridade, e levamos muito a sério relatos de potenciais vulnerabilidades”, declarou uma porta-voz da empresa.
Especialistas em cibersegurança vêm alertando que os modelos mais recentes de IA desenvolvidos por empresas, como Anthropic e OpenAI, passaram a demonstrar capacidade significativamente maior de identificar falhas de software.
Segundo pesquisadores da área, o avanço dessas ferramentas alimenta temores de um cenário apelidado de “Bugmageddon”, caracterizado por uma explosão sem precedentes na descoberta de vulnerabilidades de segurança.
A preocupação envolve tanto a pressão sobre equipes técnicas responsáveis por corrigir falhas quanto os riscos cibernéticos decorrentes da identificação acelerada de brechas em sistemas amplamente utilizados.
Apple afirma já estar estudando o relatório para reparar as falhas – Imagem: Piotr Swat/Shutterstock
Em setembro do ano passado, a Apple anunciou uma tecnologia chamada Memory Integrity Enforcement (MIE), apresentada pela empresa como resultado de um esforço de design e engenharia que teria levado cinco anos.
De acordo com a companhia, o sistema foi desenvolvido a partir da combinação de sua experiência em hardware e sistemas operacionais.
Segundo a Calif, utilizando o Claude — sistema de IA da Anthropic — foi possível desenvolver o código necessário para explorar as duas falhas do MacOS em apenas cinco dias. Apesar disso, os pesquisadores ressaltam que o ataque não poderia ter sido realizado apenas pela IA.
Thai Duong, diretor-executivo da Calif, afirmou que o processo ainda dependeu fortemente da experiência humana dos especialistas em segurança da empresa. Segundo ele, o Mythos demonstra grande capacidade para reproduzir ataques já documentados anteriormente, mas ainda não apresentou habilidade consistente para criar técnicas totalmente inéditas. “Ainda não vimos casos em que ele cria novas técnicas de ataque”, afirmou Duong. “Isso é algo novo.”
Zalewski também avaliou que parte do entusiasmo em torno do Mythos pode ser exagerada, mas reconheceu que as ferramentas mais recentes já permitem realizar “pesquisas significativas sobre vulnerabilidades e auditoria de código”.
Os pesquisadores da Calif ficaram tão entusiasmados com a descoberta que viajaram pessoalmente de Palo Alto até a sede da Apple, em Cupertino, na terça-feira (12), para apresentar um relatório de 55 páginas detalhando as falhas exploradas.
A empresa pretende divulgar os detalhes técnicos do ataque apenas após a Apple corrigir os problemas identificados. Segundo Duong, as vulnerabilidades devem ser solucionadas rapidamente.
Mythos evolui e é cada vez mais testado
A Anthropic vem ampliando gradualmente o acesso ao Mythos depois de inicialmente restringir o software a um grupo seleto de empresas e organizações;
No início deste ano, uma IA da companhia encontrou mais de 100 vulnerabilidades classificadas como graves no navegador da Mozilla, o Firefox, ao longo de duas semanas;
Segundo o texto, esse volume corresponde aproximadamente ao número de falhas que normalmente são descobertas pelo restante da comunidade global de segurança em um período de dois meses;
As preocupações relacionadas ao avanço dessas ferramentas de IA também vêm impactando a estratégia do governo dos Estados Unidos para o setor;
Segundo o texto, o fenômeno levou a Casa Branca a reavaliar sua abordagem mais flexível em relação ao desenvolvimento de IA;
O governo estadunidense agora considera a possibilidade de emitir uma ordem executiva que concederia supervisão governamental sobre os modelos de IA mais avançados.
O Google anunciou ter identificado e bloqueado pela primeira vez um exploit zero-day desenvolvido com auxílio de inteligência artificial (IA).
Segundo o Google Threat Intelligence Group (GTIG), “atores proeminentes de crimes cibernéticos” planejavam usar a vulnerabilidade para um “evento de exploração em massa” que permitiria contornar a autenticação de dois fatores em uma ferramenta de administração de sistemas web de código aberto não identificada.
Os pesquisadores do Google encontraram indícios no script Python usado no exploit que indicavam assistência de IA, incluindo um “score CVSS alucinado” e formatação “estruturada e didática” consistente com dados de treinamento de modelos de linguagem. O exploit explora “uma falha lógica semântica de alto nível onde o desenvolvedor codificou uma suposição de confiança” no sistema 2FA da plataforma.
A descoberta ocorre após semanas de preocupações sobre as capacidades de modelos de IA focados em cibersegurança, como o Mythos, da Anthropic, e uma vulnerabilidade Linux recentemente divulgada que foi descoberta com assistência de inteligência artificial.
Exploit explora “uma falha lógica semântica de alto nível onde o desenvolvedor codificou uma suposição de confiança” no sistema 2FA da plataforma – Imagem: DC Studio/Shutterstock
Esta é a primeira vez que o Google encontrou evidências de que IA estava envolvida em um ataque desse tipo, embora os pesquisadores observem que “não acreditam que o Gemini foi usado“;
O Google afirma ter conseguido “interromper” este exploit específico, mas também diz que hackers estão cada vez mais usando inteligência artificial para encontrar e explorar vulnerabilidades de segurança;
O relatório também menciona a IA como alvo de atacantes, afirmando que “o GTIG observou adversários cada vez mais direcionando os componentes integrados que concedem utilidade aos sistemas de inteligência artificial, como habilidades autônomas e conectores de dados de terceiros”;
O documento do Google detalha ainda como hackers estão usando “jailbreaking direcionado por persona” para fazer a IA encontrar vulnerabilidades de segurança, como um exemplo de prompt que instrui a IA a fingir ser um especialista em segurança;
Os hackers também estão alimentando modelos de IA com repositórios inteiros de dados de vulnerabilidades e usando OpenClaw de maneiras que sugerem “interesse em refinar payloads gerados por IA dentro de configurações controladas para aumentar a confiabilidade do exploit antes da implantação”.
A Anthropic afirmou que sua nova ferramenta de inteligência artificial (IA), o Claude Mythos, é tão eficaz na identificação de vulnerabilidades em softwares e sistemas computacionais que não pode ser disponibilizada ao público em geral.
Segundo a empresa, a tecnologia foi liberada apenas para um grupo restrito de organizações cuidadosamente selecionadas, devido ao risco de que, nas mãos erradas, possa facilitar o roubo de dados ou a interrupção de infraestruturas críticas.
As preocupações com segurança ganharam força após um episódio em que um pequeno grupo de usuários não autorizados conseguiu acesso ao sistema em um fórum privado online, de acordo com uma fonte com conhecimento do caso e documentos analisados pela Bloomberg.
Diante desse cenário, a Casa Branca se posicionou contra o plano da Anthropic de ampliar o acesso ao Mythos para outras 70 empresas e organizações, segundo um funcionário do governo.
O The Wall Street Journal foi o primeiro a noticiar as preocupações do governo dos Estados Unidos, que também teme que a Anthropic não disponha de capacidade computacional suficiente para atender mais usuários sem comprometer o uso da ferramenta por parte do próprio governo.
Nos últimos anos, empresas de cibersegurança têm defendido que a IA pode acelerar e automatizar a prevenção de ataques digitais. No entanto, hackers e agentes de espionagem também passaram a explorar essas mesmas vantagens.
O surgimento do Mythos e de modelos semelhantes, capazes de identificar falhas complexas sem supervisão humana, indica uma nova fase na corrida armamentista cibernética, marcada por maior velocidade e imprevisibilidade.
Governo Trump está de olho no novo modelo de IA desenvolvido pela Anthropic – Imagem: Chip Somodevilla e Stockinq – Shutterstock
O que é o Mythos, da Anthropic
O Claude Mythos Preview é um modelo de IA de uso geral que, segundo a Anthropic, supera significativamente versões anteriores em diversos critérios, incluindo programação e raciocínio lógico;
A empresa afirma que alguns modelos já atingiram um nível de capacidade em código que lhes permite superar todos, exceto os humanos mais experientes, na identificação e exploração de vulnerabilidades;
Durante testes, o Mythos Preview teria identificado milhares de vulnerabilidades do tipo “zero-day”, inclusive em todos os principais sistemas operacionais e navegadores web. Essas falhas, desconhecidas pelos próprios desenvolvedores, representam oportunidades valiosas para hackers, já que oferecem acesso irrestrito a sistemas vulneráveis até que sejam corrigidas;
A Anthropic destacou que o Mythos foi capaz de identificar essas falhas com ainda menos intervenção humana do que modelos anteriores. “O Mythos Preview demonstra um salto nessas habilidades cibernéticas — as vulnerabilidades que ele identificou, em alguns casos, sobreviveram a décadas de revisão humana e milhões de testes de segurança automatizados”, afirmou a empresa.
Especialistas alertam que, nas mãos de grupos de ransomware ou governos hostis, a tecnologia poderia resultar em ataques cibernéticos mais frequentes e devastadores.
Pesquisadores, no entanto, afirmam não ter acesso suficiente para verificar de forma independente o desempenho alegado do sistema. Gang Wang, professor associado de ciência da computação da Universidade de Illinois (EUA), disse à Bloomberg que é difícil avaliar a relevância do Mythos sem testes práticos mais aprofundados.
Quem tem acesso à ferramenta da Anthropic
A Anthropic concedeu acesso ao Mythos a um grupo limitado de parceiros verificados, em uma iniciativa chamada Project Glasswing — nome inspirado em uma espécie de borboleta de asas transparentes.
Entre os participantes estão Amazon, Apple, Google (da Alphabet), Microsoft, Nvidia, Palo Alto Networks, CrowdStrike, Broadcom, Cisco, JPMorganChase e a Linux Foundation, além de cerca de outras 40 organizações.
De acordo com a empresa, o projeto representa “uma tentativa urgente de colocar essas capacidades a serviço da defesa”.
As organizações participantes utilizarão o Mythos em suas estratégias de segurança defensiva e a Anthropic pretende compartilhar os resultados obtidos para beneficiar outros setores.
Atualmente, muitas empresas realizam testes de invasão, contratando especialistas para identificar falhas antes que hackers as explorem. O Mythos pode acelerar esse processo, permitindo a descoberta de um maior número de vulnerabilidades em menos tempo.
Um “divisor de águas” na segurança digital
A Anthropic classificou o Mythos Preview como um “divisor de águas” para a segurança. Vulnerabilidades do tipo zero-day são, por natureza, difíceis de detectar, e existe um mercado especializado em descobri-las e vendê-las a agências de inteligência por valores que podem chegar a milhões de dólares.
Segundo a empresa, muitas das falhas identificadas pelo Mythos eram “sutis e difíceis de detectar“, incluindo uma vulnerabilidade de 27 anos no sistema operacional OpenBSD, conhecido por seu alto nível de segurança.
O sistema também teria conseguido transformar vulnerabilidades conhecidas, mas ainda não corrigidas, em explorações práticas capazes de permitir a invasão de redes. Em um exemplo citado, o Mythos identificou e combinou diversas falhas no kernel do Linux, possibilitando que um invasor assumisse controle total de uma máquina.
A Anthropic afirmou ainda que usuários sem experiência técnica conseguiram solicitar ao sistema formas de assumir o controle remoto de computadores durante a noite e retornaram, no dia seguinte, com um exploit completo e funcional.
Ferramentas semelhantes também estão sendo desenvolvidas por outras empresas. A OpenAI trabalha no Codex Security, enquanto o Google desenvolveu o chamado “Big Sleep agent“.
Além disso, a OpenAI estaria finalizando um produto com capacidades avançadas de cibersegurança para parceiros selecionados. Pesquisadores da startup israelense Buzz afirmam ter criado uma ferramenta autônoma com taxa de sucesso de 98% na exploração de falhas conhecidas.
Medo é geral quando se trata da possibilidade de o Mythos facilitar o trabalho de hackers mundo afora – Imagem criada por inteligência artificial (ChatGPT / Olhar Digital)
Segundo a Anthropic, os mecanismos de segurança do Mythos ainda estão em evolução. “Observamos que ele atingiu níveis de confiabilidade e alinhamento sem precedentes. No entanto, em raras ocasiões em que falha ou apresenta comportamento atípico, notamos que ele toma atitudes que consideramos bastante preocupantes“, afirmou a empresa.
Em um teste, um pesquisador incentivou uma versão inicial do sistema a escapar de um ambiente isolado e enviar uma mensagem externa. O Mythos conseguiu realizar a tarefa e, em seguida, executou ações adicionais consideradas preocupantes, desenvolvendo um exploit em múltiplas etapas para acessar a internet.
A empresa afirmou que não pretende disponibilizar amplamente o Mythos Preview devido ao potencial de uso indevido. Ainda assim, planeja no futuro permitir a utilização de modelos semelhantes em larga escala, desde que sejam desenvolvidas salvaguardas capazes de detectar e bloquear os usos mais perigosos.
Para vulnerabilidades consideradas mais graves, especialistas humanos ainda participam do processo, validando as descobertas antes de encaminhá-las aos responsáveis pelos sistemas afetados. Embora necessário, esse procedimento é demorado — algo que pode ser reduzido à medida que a tecnologia evolui.
Vantagem para defensores ou atacantes?
A Anthropic acredita que, no longo prazo, ferramentas como o Mythos favorecerão os defensores. No entanto, esse cenário pode levar tempo para se concretizar. Atualmente, menos de 1% das vulnerabilidades identificadas pelo sistema foram totalmente corrigidas.
Enquanto isso, hackers também utilizam IA para acelerar a exploração de falhas já divulgadas, reduzindo o tempo disponível para correções por parte das empresas.
Em publicação de 30 de março, o CEO da Palo Alto Networks, Nikesh Arora, alertou que a barreira para ataques sofisticados continuará diminuindo nos próximos meses. “Agora, um único agente malicioso poderá executar campanhas que antes exigiam equipes inteiras”, escreveu.
Yair Saban, CEO da Buzz e ex-integrante da unidade cibernética 8200 de Israel, afirmou que sua equipe levou apenas três semanas para desenvolver uma ferramenta de ataque baseada em IA, sugerindo que outros grupos podem fazer o mesmo.
Apesar dos riscos, a Anthropic sustenta que, no futuro, a tecnologia contribuirá para um ambiente digital mais seguro. “A longo prazo, esperamos que as capacidades de defesa dominem: que o mundo emerja mais seguro, com softwares mais robustos — em grande parte graças ao código escrito por esses modelos”, afirmou o grupo Frontier Red Team da empresa. “Mas o período de transição será difícil.”
