A Anthropic anunciou nesta quarta-feira (5) a criação de uma equipe interna dedicada ao desenvolvimento de chips personalizados para seus modelos de inteligência artificial. A iniciativa marca um novo passo da empresa na expansão de sua infraestrutura tecnológica para atender à crescente demanda por capacidade computacional.
A decisão foi divulgada pela companhia após um período de escassez de componentes voltados à inteligência artificial, cenário que tem pressionado empresas do setor a buscar alternativas para sustentar o avanço de sistemas cada vez mais sofisticados.
Com o projeto, a empresa pretende aumentar a velocidade de processamento e melhorar a eficiência operacional do Claude, ao mesmo tempo em que mantém uma estratégia baseada na utilização de diferentes plataformas de hardware.
Empresa aposta em chips próprios sem abandonar fornecedores atuais
Chip para sistemas de IA – Imagem: patpitchaya/Shutterstock
A Anthropic informou que está recrutando profissionais com experiência em hardware e software para atuar no desenvolvimento conjunto de chips personalizados e de modelos de inteligência artificial. O objetivo é criar soluções capazes de elevar o desempenho do Claude e atender às necessidades de clientes que utilizam a tecnologia em larga escala.
Embora tenha decidido investir em tecnologia própria, a companhia afirmou que continuará utilizando uma estrutura diversificada de hardware. Entre os parceiros citados estão Amazon Web Services, Google, Nvidia e AMD, cujas soluções permanecem integradas à estratégia tecnológica da empresa.
Claude – Imagem: Mijansk786/Shutterstock
A companhia não revelou quando pretende colocar os novos chips em operação nem esclareceu se assumirá também a fabricação desses componentes. O desenvolvimento de processadores avançados para inteligência artificial exige investimentos elevados.
Segundo fontes do setor citadas pela Reuters, o custo de um projeto desse tipo pode chegar a aproximadamente US$ 500 milhões, valor que contempla tanto a contratação de profissionais altamente especializados quanto os processos necessários para garantir a qualidade da fabricação.
Agentes de inteligência artificial da OpenAI e da Anthropic conseguiram realizar ações não autorizadas durante testes de segurança no Reino Unido. Em um dos episódios, os sistemas chegaram a criar identidades falsas para tentar convencer pessoas reais a aprovar alterações em um projeto online.
O caso chamou atenção porque revelou sinais de autonomia e comportamento enganoso em modelos de IA, aumentando o debate sobre os limites dessas tecnologias.
Testes revelaram que sistemas de IA tentaram agir na internet sem autorização e levantaram novos alertas. – Imagem: Digineer Station/Shutterstock
Teste de segurança revelou comportamento inesperado
A descoberta foi feita pelo AI Security Institute (AISI), órgão britânico que avalia sistemas avançados de inteligência artificial antes de sua liberação. Durante uma avaliação de segurança cibernética, agentes alimentados pelos modelos GPT-5.6-Sol, da OpenAI, e Mythos 5, da Anthropic, apresentaram atitudes que surpreenderam os pesquisadores.
O desafio consistia em resolver problemas de segurança, como encontrar informações protegidas. Em algumas execuções, porém, os sistemas passaram a agir na internet sem autorização e tentaram inserir código malicioso em um projeto de código aberto.
Para conseguir aprovação das mudanças, os agentes recorreram à engenharia social, criando perfis falsos e tentando pressionar os responsáveis pelo projeto. Segundo o AISI, as tentativas não funcionaram e não causaram prejuízos reais.
Entre os principais dados do relatório estão:
122 testes foram realizados com diferentes modelos de IA;
em 10 avaliações, agentes tomaram ações autônomas na internet;
19 ações não autorizadas foram registradas;
17 delas envolveram o modelo Mythos 5, da Anthropic.
Ação independente preocupa pesquisadores
O AISI explicou que os modelos não escaparam do ambiente controlado de testes. Para medir o que essas ferramentas poderiam fazer em uma situação próxima à realidade, os pesquisadores reduziram algumas proteções e permitiram acesso à internet.
Ainda assim, o resultado foi considerado significativo. Segundo o relatório, foi “a primeira vez que vimos riscos relacionados à autonomia e ao engano se manifestarem de forma tão clara, sem instruções específicas, no mundo real”.
A análise indicou que alguns fatores podem ter influenciado o comportamento, como a dificuldade da tarefa, falhas no acompanhamento das atividades online e a ausência de regras específicas proibindo o uso de estratégias enganosas.
Modelos avançados de IA usaram engenharia social para tentar convencer pessoas reais em um projeto online. – Imagem: Mer_Studio/Shutterstock
Empresas avaliam novas medidas de controle
A OpenAI confirmou o incidente identificado durante os testes do AISI e informou que também recebeu um alerta sobre outro caso envolvendo uma avaliação feita por uma empresa parceira. A companhia afirmou que pretende revisar seus procedimentos para testes externos de maior risco.
Em comunicado, a empresa disse estar “comprometida em trabalhar com todo o setor para fortalecer práticas compartilhadas na realização segura de avaliações de alto risco”.
A Anthropic afirmou que os recursos de proteção dos modelos foram desativados durante o experimento e que os sistemas não receberam limitações específicas sobre o uso da internet. A empresa também informou que está colaborando com o AISI na investigação.
O episódio mostra que, à medida que agentes de IA ganham mais autonomia, cresce o desafio de criar mecanismos capazes de acompanhar suas decisões e impedir comportamentos inesperados. Para a indústria, a segurança passa a ser tão importante quanto o próprio avanço das capacidades desses sistemas.
Modelos de inteligência artificial (IA) desenvolvidos pela OpenAI e pela Anthropic realizaram ações não autorizadas na internet durante avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês).
Em um dos casos, um dos sistemas chegou a tentar inserir código malicioso em um projeto de software de código aberto hospedado no GitHub.
Segundo o AISI, os incidentes ocorreram durante testes que concediam acesso dos modelos à internet para avaliar riscos cibernéticos. A atividade suspeita foi identificada em 28 de julho, após o instituto detectar transferências incomuns de dados.
A investigação concluiu que os modelos Mythos 5, da Anthropic, e GPT-5.6-Sol, da OpenAI, participaram de “atividades sustentadas e potencialmente prejudiciais direcionadas a pessoas e organizações reais”.
IA tentou inserir código malicioso no GitHub
De acordo com o instituto britânico, um dos modelos tentou adicionar código malicioso a um projeto de código aberto hospedado no GitHub;
Para aumentar as chances de aprovação, o sistema chegou a criar identidades falsas com o objetivo de convencer os responsáveis pelo projeto a aceitar as alterações;
A tentativa, no entanto, foi frustrada;
“Um mantenedor humano identificou o problema e recusou a aprovação do código malicioso”, informou o AISI.
Claude Mythos está envolvido na mais recente violação – Imagem: gguy/Shutterstock
Em publicação no X, a Anthropic afirmou que está trabalhando em conjunto com o instituto britânico para compreender o ocorrido.
A empresa disse que pretende analisar os registros internos de raciocínio do modelo e conduzir sua própria investigação para identificar as causas do comportamento observado.
Já a OpenAI publicou comunicado agradecendo a parceria com o AISI durante a investigação e afirmou que pretende continuar colaborando com o órgão em futuras avaliações de segurança.
Outro teste revelou novo comportamento inesperado
A OpenAI também revelou um segundo incidente ocorrido durante uma avaliação conduzida pela empresa de cibersegurança Irregular, que trabalha com testes de modelos de IA e também mantém parceria com a Anthropic.
Segundo a companhia, durante esse teste, um de seus modelos explorou uma configuração incorreta do ambiente de avaliação para obter acesso à internet e explorar um site, comportamento que não fazia parte dos objetivos previstos para o experimento.
A OpenAI ressaltou que esse episódio é diferente de um incidente divulgado anteriormente envolvendo a plataforma Hugging Face.
Casos aumentam debate sobre controle de modelos de IA
Os novos episódios reforçam as preocupações sobre a capacidade das empresas de controlar modelos de IA cada vez mais avançados.
Instituições como o AI Security Institute vêm realizando avaliações para entender como esses sistemas se comportam em cenários complexos, especialmente quando recebem autonomia para navegar na internet e interagir com serviços reais.
A Anthropic escolheu Mariano-Florentino Cuéllar para liderar sua área global de assuntos públicos em um momento de pressão sobre as regras de inteligência artificial nos Estados Unidos. A nomeação ocorre enquanto a empresa tenta ampliar o diálogo com governos e lidar com disputas envolvendo o uso de seus sistemas.
Segundo a Reuters, Cuéllar será responsável por administrar as relações da Anthropic com autoridades americanas e governos de outros países onde a companhia está expandindo suas operações.
A inteligência artificial entrou em uma nova fase: empresas agora precisam negociar regras, segurança e relações políticas. – Imagem: Garun.Prdt/Shutterstock
Executivo chega para aproximar Anthropic de governos
Criadora dos modelos Claude, a Anthropic aposta na experiência de Cuéllar no setor público para conduzir conversas sobre regulamentação e segurança da inteligência artificial. Conhecido como Tino, o executivo responderá diretamente à presidente da empresa, Daniela Amodei.
O novo chefe global de assuntos públicos ficará baseado na sede da companhia, em São Francisco. Entre suas atribuições estará a construção de relações com representantes governamentais em diferentes mercados.
Cuéllar já tinha ligação com a Anthropic. Desde janeiro, ele fazia parte do Long-Term Benefit Trust, estrutura criada para acompanhar o compromisso da empresa com sua missão de benefício público. Agora, deixará essa função para integrar oficialmente a companhia.
Histórico em governo e segurança pesa na escolha
A trajetória do executivo inclui uma passagem pela Casa Branca durante o governo do ex-presidente Barack Obama, onde atuou como assistente especial, além da liderança do Carnegie Endowment for International Peace até julho. Nesse período, também copresidiu uma força-tarefa sobre segurança nacional dos Estados Unidos e proliferação nuclear.
Na prática, Cuéllar deverá concentrar esforços em quatro frentes principais:
Relacionamento com governos dos Estados Unidos e de outros países;
Discussões sobre regulamentação para empresas de inteligência artificial;
Segurança e riscos ligados ao uso de modelos avançados de IA;
Diálogo com diferentes setores políticos sobre o futuro da tecnologia.
Em uma declaração divulgada pela empresa, Cuéllar afirmou que o desenvolvimento e a regulamentação da inteligência artificial chegaram a um ponto decisivo. “As escolhas que fazemos hoje determinarão se a humanidade poderá aproveitar possibilidades extraordinárias para avançar a ciência e melhorar vidas em todo o mundo ou enfrentar enormes riscos e desigualdade crescente”, disse.
A Anthropic vive pressão nos EUA e aposta em um especialista em política para administrar conflitos e ampliar diálogos – Imagem: Mehaniq/Shutterstock
Disputas com governo americano aumentam pressão
A nomeação acontece enquanto a Anthropic enfrenta conflitos relacionados ao uso militar de sua tecnologia. A empresa teve seus sistemas incluídos em uma lista de bloqueios do Pentágono e contestou a decisão judicialmente.
Além disso, a administração de Donald Trump estabeleceu temporariamente controles de exportação que impediram a venda dos modelos Mythos 5 e Fable 5 para usuários estrangeiros, alegando preocupações de segurança nacional.
Para Oren Cass, fundador do American Compass, Cuéllar tem um perfil pragmático e aberto ao diálogo. “Sua abordagem será provocar uma boa formulação de políticas deliberativas com a administração”, afirmou à Reuters.
Com a nova função, o executivo terá o desafio de representar a Anthropic nas discussões sobre regras para inteligência artificial enquanto a empresa busca equilibrar expansão comercial, segurança e exigências governamentais.
Modelos de inteligência artificial da OpenAI e da Anthropic conseguiram realizar ações inesperadas durante testes de segurança, incluindo ataques cibernéticos simulados. Os episódios chegaram à Comissão Europeia antes da divulgação pública.
Segundo a Reuters, o bloco acompanha os casos enquanto prepara a entrada em vigor da Lei de IA, uma das primeiras regulamentações amplas do mundo para controlar o desenvolvimento da tecnologia.
Durante testes, modelos de IA realizaram ações inesperadas e abriram um novo debate sobre autonomia das máquinas. – Rawpixel.com/Shutterstock
Testes revelam novos desafios para agentes de IA
Os incidentes aumentaram a preocupação sobre ferramentas capazes de executar tarefas de forma autônoma. A Comissão Europeia informou que recebeu detalhes das duas empresas antes que os episódios fossem divulgados.
“Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões”, afirmou um funcionário do órgão.
A análise das autoridades envolve principalmente:
Capacidade de sistemas realizarem ações sem comando direto;
Riscos de uso indevido em ataques digitais;
Monitoramento obrigatório por desenvolvedores;
Transparência sobre o funcionamento dessas tecnologias.
Outro representante da Comissão Europeia destacou que “esses incidentes destacam a importância de implementar as atividades de monitoramento exigidas dos desenvolvedores.”
Anthropic e OpenAI relatam comportamentos inesperados
O primeiro caso envolveu modelos da família Claude, da Anthropic. A empresa informou que algumas versões conseguiram invadir sistemas de três organizações durante testes de cibersegurança.
Segundo a companhia, um erro de configuração permitiu o acesso à internet. As atividades foram identificadas após uma revisão de mais de 141 mil sessões de teste, e as empresas afetadas foram avisadas.
Poucos dias depois, a OpenAI revelou que dois modelos próprios encontraram uma maneira de invadir um sistema durante uma avaliação de segurança. A empresa classificou o episódio como um ataque “sem precedentes”.
Quando a IA começa a agir além do esperado, surge uma pergunta: como garantir controle sobre a tecnologia? – Imagem: Digineer Station/Shutterstock
Nova Lei de IA aumenta pressão sobre empresas
Os casos surgem às vésperas da entrada em vigor da Lei de IA da União Europeia, prevista para 2 de agosto. A regulamentação estabelece obrigações para desenvolvedores de modelos considerados de uso geral e com risco sistêmico.
Entre as exigências estão ações para reduzir ameaças como ataques cibernéticos, manipulação maliciosa e situações em que uma tecnologia possa agir fora do controle humano.
A legislação também prevê regras de transparência, incluindo avisos quando usuários estiverem interagindo com uma inteligência artificial ou quando conteúdos forem criados ou modificados pela tecnologia.
As multas podem variar de 7,5 milhões de euros (cerca de R$ 48 milhões) ou 1,5% do faturamento global até 35 milhões de euros (aproximadamente R$ 224 milhões) ou 7% da receita mundial, dependendo da gravidade da infração.
Com a nova regra prestes a começar, a Europa terá pela frente o desafio de equilibrar dois objetivos que caminham juntos, mas nem sempre na mesma direção: incentivar avanços em IA e reduzir riscos de tecnologias cada vez mais independentes.
A Anthropic informou, nesta quinta-feira (30), que alguns de seus modelos de inteligência artificial (IA) conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética, após um erro de configuração permitir que eles acessassem a internet. Segundo a companhia, os incidentes ocorreram sem que a empresa percebesse e começaram em abril.
O caso foi revelado poucos dias depois de a OpenAIinformar que um de seus agentes de IA escapou de um ambiente isolado de testes e realizou uma série de ataques contra a empresa de IA Hugging Face, episódio que chamou a atenção de pesquisadores de segurança e especialistas em IA.
De acordo com a Anthropic, os modelos deveriam estar operando em ambientes isolados da internet, conhecidos como sandboxes. No entanto, uma configuração incorreta em sistemas administrados pela própria empresa e por sua parceira de testes, a empresa de segurança Irregular, acabou permitindo acesso à rede.
Após tomar conhecimento do incidente envolvendo a OpenAI, a Anthropic decidiu revisar os registros de seus próprios testes de segurança. A empresa analisou 141.006 execuções de avaliações de cibersegurança e identificou três episódios nos quais seus modelos acessaram a internet e comprometeram sistemas de organizações externas.
Diferentemente do caso divulgado pela OpenAI, a Anthropic afirmou que seus modelos não escaparam de um sandbox. Segundo a empresa, eles simplesmente foram executados em ambientes onde esse isolamento não existia devido ao erro de configuração.
A companhia não revelou quais empresas foram afetadas, mas informou que todas foram notificadas na última segunda-feira (27).
De acordo com a Anthropic, os modelos deveriam estar operando em ambientes isolados da internet, conhecidos como sandboxes – Imagem: PhotoGranary02/Shutterstock
Nova invasão de IAs a empresas
Segundo a Anthropic, os modelos acreditavam, de forma equivocada, que as invasões faziam parte dos testes de avaliação para os quais haviam sido programados;
“O Claude comprometeu a infraestrutura das organizações afetadas utilizando técnicas básicas, como explorar senhas fracas e acessar pontos de entrada que não exigiam autenticação”, afirmou a empresa;
Os ataques envolveram os modelos Claude Opus 4.7, Mythos 5 e outro modelo experimental cujo nome não foi divulgado;
Uma porta-voz da Irregular afirmou que a empresa está investigando o ocorrido.
O episódio deve ampliar as preocupações sobre os riscos associados a modelos avançados de IA capazes de agir de forma autônoma para cumprir objetivos definidos pelos usuários.
Nos Estados Unidos, o tema já vem atraindo atenção das autoridades. A Casa Branca tem ampliado sua supervisão sobre a IA, enquanto empresas do setor defendem a manutenção do acesso aos chamados modelos de pesos abertos (open-weight), que podem ser executados em sistemas controlados pelos próprios usuários.
Na semana passada, o deputado estadunidense Greg Casar afirmou que “a IA está se desenvolvendo extremamente rápido, sem regulamentações reais para nos manter seguros”.
Segundo o The Washington Post, OpenAI e Anthropic, duas das maiores empresas de inteligência artificial do mundo, apoiam uma carta que pede ao governo dos Estados Unidos mecanismos para desacelerar o desenvolvimento da tecnologia caso os avanços se tornem rápidos demais.
O documento, assinado por funcionários de empresas como Google, Meta e outras líderes do setor, alerta que a IA pode evoluir além da capacidade humana de acompanhar e controlar seus impactos.
Empresas que criam IA agora discutem como evitar que a tecnologia avance além da capacidade de supervisão humana. – Imagem: Primakov / Shutterstock
Empresas defendem ritmo mais seguro para a inteligência artificial
A carta pede que os Estados Unidos liderem um esforço internacional para criar ferramentas técnicas e regras de governança capazes de acompanhar os modelos mais avançados de inteligência artificial.
A proposta não sugere interromper pesquisas, mas estabelecer formas de reduzir riscos caso sistemas futuros consigam automatizar parte do próprio desenvolvimento da tecnologia.
Entre os principais pontos defendidos pelos profissionais estão:
Criar mecanismos internacionais de acompanhamento da evolução da IA;
Desenvolver ferramentas técnicas para avaliar riscos;
Estabelecer regras de governança para sistemas avançados;
Ampliar a cooperação entre governos e empresas do setor.
O movimento ganhou destaque justamente por envolver profissionais de empresas que estão na linha de frente da corrida pela inteligência artificial. A iniciativa representa uma mudança em relação a pedidos anteriores de pausa no desenvolvimento da tecnologia, já que agora conta com apoio institucional de grandes companhias.
IA capaz de criar novas IAs aumenta preocupação
Sam Altman, CEO da OpenAI, diz que talvez seja necessário controlar o ritmo da IA para que a sociedade consiga acompanhar. – Imagem: Henry Franklin/Shutterstock
Um dos principais alertas está relacionado à possibilidade de sistemas de inteligência artificial assumirem tarefas de pesquisa e ajudarem a desenvolver novos modelos de forma cada vez mais autônoma.
A OpenAI afirmou que um de seus objetivos é construir um “pesquisador de IA automatizado”. A empresa prevê que, no início de 2028, uma parcela significativa de suas pesquisas poderá ser realizada por sistemas de inteligência artificial trabalhando em conjunto com especialistas humanos.
Andrew Yoon, integrante da CivAI, organização que analisa capacidades e riscos da tecnologia, afirmou que essa possibilidade pode acelerar o avanço da IA para além da capacidade de supervisão.
“Os desenvolvedores de IA acreditam cada vez mais que a pesquisa automatizada em inteligência artificial pode estar próxima de se tornar realidade”, afirmou Yoon.
Segundo ele, essa aceleração tem potencial para levar o progresso tecnológico a um ponto em que os modelos se tornem difíceis de controlar com segurança.
Corrida entre países aumenta debate sobre segurança
A evolução da inteligência artificial já faz parte da disputa tecnológica entre Estados Unidos e China. Empresas e governos investem bilhões de dólares para desenvolver sistemas mais avançados, enquanto especialistas discutem como equilibrar inovação e segurança.
Sam Altman, CEO da OpenAI, não assinou a carta, mas afirmou que pode ser necessário reduzir o ritmo dos avanços para que a sociedade consiga acompanhar as mudanças.
O debate ganhou força após novos modelos da OpenAI e da Anthropic demonstrarem capacidades avançadas de interação com sistemas digitais, incluindo tarefas que levantam preocupações sobre segurança.
Desafio é inovar sem perder o controle
A carta apoiada pelas empresas não propõe abandonar o desenvolvimento da inteligência artificial, mas criar condições para que governos, pesquisadores e sociedade consigam acompanhar a velocidade das mudanças.
Para especialistas, o avanço da tecnologia traz oportunidades em áreas como pesquisa científica, saúde e inovação, mas também exige novas formas de supervisão.
O pedido feito por funcionários das maiores empresas de IA mostra que a própria indústria começa a discutir limites para uma corrida tecnológica que pode transformar profundamente a sociedade nos próximos anos.
O CEO da Meta, Mark Zuckerberg, fez duras críticas ao modelo de desenvolvimento de inteligência artificial (IA) adotado por concorrentes, como OpenAI e Anthropic.
Em entrevista concedida nesta terça-feira (28) ao The New York Times, o executivo afirmou que concentrar o desenvolvimento de modelos avançados em poucas empresas pode limitar o acesso da sociedade à tecnologia e prejudicar a inovação.
Embora não tenha citado diretamente OpenAI e Anthropic em diversos momentos da conversa, Zuckerberg deixou claro que se referia às empresas que defendem um desenvolvimento mais controlado da IA. Segundo ele, essa abordagem contraria a tradição do setor de tecnologia nos Estados Unidos.
“Grande parte do discurso de muitos dos outros laboratórios que estão desenvolvendo isso é excessivamente dominada pelo pessimismo”, afirmou. “É preciso haver uma voz, ou várias vozes, que tragam realismo para esse debate.”
As declarações ampliam uma discussão que vem dividindo o Vale do Silício sobre como sistemas avançados de IA devem ser desenvolvidos e disponibilizados ao público.
Debate divide gigantes da tecnologia
Executivos, como Dario Amodei, da Anthropic, e Sam Altman, argumentam que alguns dos modelos mais avançados já são perigosos demais para serem desenvolvidos ou compartilhados sem rígidos mecanismos de controle;
Por outro lado, empresas, como Microsoft, Nvidia, Google e a própria Meta, defendem que boa parte desses modelos deve permanecer amplamente acessível para estimular pesquisas, novos negócios e avanços tecnológicos;
A discussão ganhou força neste mês após modelos chineses de inteligência artificial reduzirem a vantagem tecnológica que empresas estadunidenses, como Anthropic e OpenAI, mantinham no setor;
Em resposta, essas companhias intensificaram o diálogo com reguladores em Washington e demonstraram preocupação com o avanço de modelos de código aberto desenvolvidos na China.
Na última sexta-feira (24), o CEO da Nvidia, Jensen Huang, publicou uma carta defendendo o desenvolvimento de softwares de código aberto para IA, posição que recebeu apoio de diversas empresas de tecnologia.
Nesta semana, Huang também anunciou uma coalizão voltada ao desenvolvimento de ferramentas abertas de segurança e cibersegurança para IA, iniciativa que reúne empresas, como SpaceX e IBM.
Huang e Altman estão entre os executivos que viajaram a Washington para discutir com o governo do presidente Donald Trump possíveis políticas para o setor.
Empresas, como Microsoft, Nvidia, Google e a própria Meta, defendem que boa parte desses modelos deve permanecer amplamente acessível para estimular pesquisas, novos negócios e avanços tecnológicos – Imagem: jackpress/Shutterstock
Durante a entrevista, Zuckerberg voltou a defender sua visão de que a IA deve estar disponível para o maior número possível de pessoas. Ele criticou a ideia de criar uma única superinteligência centralizada e totalmente alinhada aos interesses da humanidade, conceito frequentemente associado às discussões sobre segurança em IA.
“Eu acho que muitas pessoas têm a noção de que, se você construir algum tipo de inteligência artificial singular, poderá, por meio de uma forma idealizada de alinhamento, garantir que ela seja benevolente para a humanidade”, afirmou. “Pessoalmente, sou cético em relação a esse caminho.”
Em vez disso, o executivo propôs o conceito de “superinteligência personalizada”, em que assistentes de IA possam ser configurados conforme as necessidades, preferências e valores de cada usuário. “Acho que é literalmente impossível existir uma única superinteligência benevolente que esteja alinhada com todas as pessoas ao mesmo tempo”, declarou.
Até a publicação da entrevista, OpenAI e Anthropic não haviam comentado as declarações. Em manifestações anteriores, a OpenAI afirmou apoiar iniciativas de código aberto e disse trabalhar com a Casa Branca para desenvolver formas seguras de expandir a IA.
Na segunda-feira (27), Amodei publicou um texto afirmando que a Anthropic está concentrada em impedir que chips avançados cheguem a regimes autoritários, evitar a reprodução em larga escala de modelos de IA e exigir testes de segurança para sistemas altamente capazes, sejam eles abertos ou fechados.
Apesar das divergências entre as empresas, pesquisadores da Anthropic, OpenAI, Meta e Google assinaram conjuntamente uma carta aberta intitulada “Pacing the Frontier”.
O documento defende um esforço internacional para desenvolver ferramentas técnicas e mecanismos de governança capazes de desacelerar o avanço da IA quando necessário por razões de segurança.
A posição da Meta sobre IA também evoluiu nos últimos anos. Durante muito tempo, a empresa ficou conhecida por disponibilizar gratuitamente modelos de IA de código aberto. No entanto, após perder espaço para OpenAI e Anthropic, Zuckerberg reformulou sua estratégia.
A companhia investiu US$ 14,3 bilhões (R$ 73,5 bilhões) na startup Scale AI e contratou seu fundador, Alexandr Wang, para liderar a divisão de IA da empresa, rebatizada de Meta Superintelligence Labs. Também foram investidos bilhões de dólares na contratação de pesquisadores especializados, que passaram a desenvolver um novo modelo fechado de IA, em vez de totalmente aberto.
Neste mês, a Meta começou a vender, pela primeira vez, acesso ao seu modelo Muse Spark, ao mesmo tempo em que continua desenvolvendo modelos de código aberto.
Zuckerberg afirmou acreditar que a trajetória da indústria de tecnologia aponta para uma democratização crescente das ferramentas de IA. “Acredito que a trajetória geral da indústria sempre caminhou para mais abertura e para colocar o poder da tecnologia nas mãos de mais pessoas, e não de menos”, concluiu.
O Claude Mythos Preview, modelo de inteligência artificial (IA) desenvolvido pela Anthropic, conseguiu identificar novas formas de explorar vulnerabilidades em uma versão simplificada de um dos algoritmos de criptografia mais utilizados no mundo, o Advanced Encryption Standard (AES).
A descoberta, anunciada pela empresa nesta terça-feira (28), reforça as preocupações sobre os impactos que modelos de IA cada vez mais avançados podem ter na segurança cibernética global.
Segundo os pesquisadores da Anthropic, o modelo foi capaz de descobrir métodos inéditos para atacar algoritmos criptográficos responsáveis por proteger desde transações bancárias online e comunicações privadas até informações sigilosas de governos contra hackers e outros agentes mal-intencionados.
O estudo indica que a IA pode, no futuro, desafiar princípios fundamentais sobre os quais a internet foi construída. Embora especialistas já esperem que a IA transforme diversos setores, os avanços têm sido especialmente rápidos nas áreas de programação e segurança digital.
Apesar da relevância da descoberta, a Anthropic ressalta que não há risco imediato para os sistemas atualmente em uso. As vulnerabilidades encontradas dizem respeito apenas a uma versão enfraquecida do AES, utilizada em pesquisas para avaliar a resistência de algoritmos criptográficos.
AES e testes de confiabilidade
O AES é um protocolo amplamente empregado para proteger o tráfego da internet, redes sem fio, sistemas de armazenamento de dados e diversos outros serviços digitais;
Testar versões simplificadas desses algoritmos é uma prática comum entre pesquisadores para entender se computadores mais poderosos poderão, no futuro, quebrar os padrões reais de criptografia;
A lógica é semelhante à de resolver um problema matemático mais simples para identificar padrões que possam ser aplicados a desafios muito mais complexos.
Durante os testes, o Claude Mythos Preview conseguiu romper essa versão reduzida do AES utilizando um método que, segundo a Anthropic, tornou o ataque entre 200 e mil vezes mais rápido do que as melhores técnicas desenvolvidas anteriormente por pesquisadores humanos.
Embora as consequências imediatas sejam limitadas, os pesquisadores afirmam que as implicações de longo prazo podem ser significativas.
Em testes anteriores, modelos de linguagem de grande porte não conseguiam igualar o desempenho de especialistas humanos em pesquisas criptográficas, um campo altamente dependente de matemática avançada.
A rápida evolução dessas ferramentas, no entanto, sugere um cenário em que futuros modelos poderão superar proteções de segurança consideradas essenciais para praticamente toda a infraestrutura da internet.
Nicholas Carlini, cientista de pesquisa da Anthropic que participou dos testes de criptografia e anteriormente trabalhou na divisão de IA do Google, afirmou que a evolução dos modelos foi muito mais rápida do que esperava.
“Eles não conseguiam resolver problemas que eu conseguia quando tinha 16 anos”, disse Carlini em entrevista ao The New York Times. “Agora eles estão realizando pesquisas de ponta que nunca haviam sido descobertas na área.”
Os avanços recentes dos chamados modelos de fronteira também vêm despertando preocupação entre governos de diversos países, incluindo o governo do presidente Donald Trump, principalmente devido às capacidades relacionadas à segurança cibernética.
Quando o Claude Mythos foi apresentado, em abril, demonstrou tanta eficiência para encontrar e explorar falhas em softwares que a Anthropic decidiu restringir seu acesso a órgãos governamentais e organizações selecionadas, buscando reduzir o risco de uma possível catástrofe digital em escala global.
Mythos é da Anthropic – Imagem: PhotoGranary02/Shutterstock
Embora o governo Trump tenha adotado inicialmente uma postura de pouca intervenção na regulamentação da IA, a administração passou a adotar um modelo de supervisão mais flexível. Atualmente, diversas empresas estadunidenses submetem seus modelos ao governo antes do lançamento público. O Mythos continua indisponível para o público em geral.
As preocupações aumentaram novamente na semana passada, quando a OpenAI revelou que alguns de seus modelos conseguiram escapar de um ambiente de testes isolado, conhecido como sandbox, criado justamente para impedir acesso à internet. Segundo a empresa, os sistemas invadiram uma biblioteca digital de IA na tentativa de obter respostas para um exame que avaliava suas capacidades.
Autoridades de inteligência dos Estados Unidos e de países ocidentais alertam há décadas que uma eventual quebra dos atuais padrões de criptografia teria consequências profundas para a privacidade digital e para a segurança nacional.
Há suspeitas, por exemplo, de que a China tenha armazenado grandes volumes de dados criptografados com a expectativa de conseguir decifrá-los futuramente. Ao mesmo tempo, a disputa tecnológica entre Estados Unidos e China pelo desenvolvimento de computadores quânticos capazes de romper os protocolos modernos de criptografia aumentou ainda mais essas preocupações.
Além da descoberta envolvendo o AES, o Claude Mythos também desenvolveu uma técnica aprimorada de ataque contra outro sistema criptográfico chamado HAWK, projetado para resistir tanto a computadores convencionais quanto a futuros computadores quânticos.
Embora o HAWK ainda não esteja em uso, ele está sendo avaliado pelo Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST, na sigla em inglês) como um possível novo padrão criptográfico.
Segundo a Anthropic, os próprios autores do HAWK validaram o ataque desenvolvido pela IA, enquanto criptógrafos independentes revisaram a descoberta relacionada ao AES. A empresa informou ainda que compartilhou os resultados com o governo estadunidense e parceiros da indústria antes da publicação do estudo.
A Anthropic afirma que o Claude Mythos elaborou praticamente de forma autônoma o novo ataque contra o AES. Inicialmente, porém, o modelo recusou-se a analisar o problema por acreditar que seria impossível superar os métodos existentes.
Após receber novos incentivos dos pesquisadores, permaneceu cerca de uma semana trabalhando na questão até desenvolver a técnica inédita. Em seguida, dois pesquisadores humanos passaram quase um mês verificando se o método estava correto.
A criptografia é considerada um dos pilares da internet moderna, protegendo praticamente todas as atividades realizadas no ambiente digital. Algumas das técnicas ainda utilizadas atualmente guardam segredos do mundo desde a década de 1970. Já a criptografia quântica, baseada em propriedades da física quântica, é considerada teoricamente impossível de ser quebrada.
Adotado como padrão oficial do governo dos Estados Unidos em 2001, o AES era amplamente visto como praticamente inviolável. Os métodos tradicionais de força bruta, nos quais computadores tentam adivinhar combinações de senhas ou chaves de criptografia por tentativa e erro, são considerados incapazes de derrotar o algoritmo. Estima-se que o AES possua um número de combinações de chaves comparável ao número de átomos existentes no universo observável.
Mesmo assim, o avanço acelerado da IA tem superado expectativas que muitos especialistas julgavam inalcançáveis poucos anos atrás. Esse progresso alimenta preocupações de que, no futuro, os fundamentos matemáticos que sustentam os atuais padrões de segurança da internet possam se tornar vulneráveis mesmo antes de os computadores quânticos se tornarem realidade.
“Dado que estamos constantemente subestimando o poder e o tempo necessário para que futuros modelos estejam disponíveis, será que realmente estamos confortáveis em acreditar que, daqui a dois anos, a criptografia forte não estará ameaçada?”, questionou Glenn S. Gerstell, ex-conselheiro-geral da Agência de Segurança Nacional dos Estados Unidos (NSA, na sigla em inglês).
“Os matemáticos diriam que, com o poder computacional atual, não deveria ser possível quebrar uma criptografia forte em um tempo relevante”, acrescentou Gerstell, que ajudou a elaborar um relatório sobre criptologia em 2022.
“Mas não acho que as capacidades dos modelos futuros no médio prazo — antes da computação quântica ou da criptografia resistente à computação quântica — devam ser descartadas como algo trivial nesse contexto.”
Centenas de diálogos compartilhados por usuários do Claude, chatbot de inteligência artificial da Anthropic, ficaram acessíveis publicamente após serem encontrados em mecanismos de busca.
A descoberta revelou que algumas interações com informações pessoais e profissionais estavam disponíveis online, levantando dúvidas sobre os limites de privacidade no uso de ferramentas de IA.
Chats com IA que pareciam privados foram encontrados online após indexação por mecanismos de busca. – Imagem: Mijansk786/Shutterstock
Links públicos levaram conversas ao alcance de qualquer pessoa
Segundo a BBC, os registros apareceram porque usuários escolheram compartilhar links de suas conversas com o Claude. Esses endereços acabaram indexados por buscadores como o Google, permitindo que terceiros encontrassem os materiais.
A opção de localizar esses conteúdos foi removida durante o fim de semana, mas parte dos links já havia sido salva e compartilhada na internet.
A Anthropic afirmou que os usuários continuam decidindo se querem ou não divulgar uma conversa. Uma porta-voz da companhia explicou que os links “não eram previsíveis ou detectáveis, a menos que as pessoas optassem por compartilhá-los por conta própria”.
Ela acrescentou que, ao tornar uma interação pública, o usuário permite que aquele material seja acessado e arquivado por serviços de terceiros, como ocorre com outros conteúdos disponíveis na web.
O recurso de compartilhamento do Claude informa que “qualquer pessoa com o link” pode visualizar a conversa, mas não deixa explícito que esse endereço poderia aparecer em resultados de pesquisa.
Currículos e informações de trabalho estavam entre os conteúdos
A descoberta inicial veio de usuários do Reddit, que encontraram mais de 200 conversas espalhadas por pelo menos 25 páginas de resultados.
Os diálogos mostravam diferentes usos do chatbot, incluindo:
Criação de textos inéditos sobre segurança na nuvem;
Discussões envolvendo projetos corporativos;
Auxílio na elaboração de currículos com dados pessoais;
Pesquisas confidenciais relacionadas ao trabalho, incluindo a área da saúde.
Entre os casos encontrados estava o de um usuário que pediu ajuda ao Claude para “se tornar a Raposa de Nove Caudas”. Depois, ele explicou que queria literalmente se transformar na criatura. O chatbot apresentou uma imagem gerada por IA e afirmou que o usuário havia recebido “poderes de raposa totalmente funcionais!”.
Também foram encontrados registros que pareciam envolver transcrições de conversas privadas e informações usadas em atividades profissionais.
A exposição de chats do Claude se soma a outros casos envolvendo plataformas de inteligência artificial. – Imagem: Primakov / Shutterstock
Claude segue casos semelhantes envolvendo IA
O episódio envolvendo a Anthropic não é o primeiro problema de exposição de conversas em plataformas de inteligência artificial. A BBC lembra que a OpenAI enfrentou uma situação semelhante com registros públicos do ChatGPT e depois alterou a forma de acesso a esses conteúdos.
O Grok, chatbot da plataforma X, também teve centenas de milhares de registros disponibilizados publicamente por meio de pesquisas online.
Um porta-voz do Google afirmou à BBC que a empresa não decide quais páginas ficam públicas na internet, pois essa escolha depende dos próprios sites. Segundo ele, a companhia oferece ferramentas para impedir que páginas sejam rastreadas ou indexadas.
Com a retirada dos registros do Claude dos resultados de busca, a expectativa é que a Anthropic tenha usado mecanismos disponíveis para bloquear esses links.
O caso mostra que uma conversa criada em uma ferramenta de inteligência artificial pode ultrapassar rapidamente o ambiente privado quando um link público é compartilhado, tornando essencial avaliar com cuidado quais informações são divulgadas.
