O avanço da inteligência artificial em sistemas militares preocupa autoridades e especialistas em segurança. No Fórum Xiangshan, na China, participantes alertaram que decisões aceleradas por IA podem elevar os riscos de conflito e deixar menos tempo para governos entenderem uma situação antes de reagir.
Enquanto Estados Unidos e China discutem como lidar com esses riscos, especialistas dos dois países propõem medidas para evitar que ações autônomas sejam confundidas com ataques deliberados, especialmente quando envolvem armas nucleares ou operações cibernéticas.
A preservação do julgamento humano está entre as principais propostas para reduzir os riscos da IA em sistemas militares. – Imagem: FOTOGRIN/Shutterstock
Decisões militares cada vez mais rápidas
Cerca de 2 mil militares, diplomatas e acadêmicos de 100 países participaram do Fórum Xiangshan, realizado em Pequim. O encontro ocorreu em meio às discussões sobre os limites para o uso militar da IA.
Adul Boonthumjaroen, ministro da Defesa da Tailândia, afirmou que a competição entre grandes potências não deveria se resumir à busca por maior poder.
Hoje, o mundo está em um ponto de inflexão crítico. A competição estratégica entre as grandes potências está se tornando mais evidente, os conflitos em muitas regiões continuam.
Adul Boonthumjaroen, ministro da Defesa da Tailândia, durante o Fórum.
Muhammad Ali, secretário de Defesa do Paquistão, chamou atenção para a velocidade dos avanços tecnológicos. Segundo ele, eles estão “comprimindo o cronograma estratégico”.
A preocupação não se limita ao ritmo das decisões. Segundo a Reuters, especialistas de segurança dos Estados Unidos e da China também discutem como evitar que uma reação automática seja interpretada como um ataque e desencadeie uma escalada militar. É nesse ponto que entram as propostas de salvaguardas para o uso da IA.
Salvaguardas para os riscos da IA
Especialistas que participam de um diálogo entre instituições americanas e chinesas apresentaram propostas que tratam de questões tradicionalmente ligadas ao controle de armas. Entre elas estão:
limitar o uso autônomo de IA em sistemas de comando nuclear;
manter seres humanos responsáveis por ataques cibernéticos de grande impacto;
criar uma linha direta entre EUA e China para incidentes envolvendo sistemas autônomos;
impedir que a IA decida sozinha pelo uso de armas nucleares;
estabelecer uma definição comum para “controle humano significativo”.
A linha direta permitiria que um governo informasse ao outro quando uma operação automatizada fosse acidental, não autorizada ou ainda estivesse sob investigação.
Isso poderia evitar uma escalada provocada por uma interpretação equivocada. Um sistema de defesa automatizado poderia reagir a uma atividade suspeita, enquanto o outro país entenderia a resposta como um ataque e retaliaria antes de saber o que realmente aconteceu.
Uma reação automática pode ser interpretada como ataque, criando o risco de uma escalada antes que o incidente seja esclarecido. – Imagem: FOTOGRIN/Shutterstock
Controle humano continua no centro
Jurg Lauber, vice-presidente do Comitê Internacional da Cruz Vermelha, destacou que a autonomia crescente das armas aumenta a necessidade de supervisão humana.
“À medida que os sistemas de armas se tornam cada vez mais autônomos, a necessidade de preservar o julgamento e o controle humanos sobre o uso da força se torna mais urgente”, afirmou.
As propostas também incluem proteções para infraestruturas críticas, como energia, finanças e saúde. A intenção é evitar que a IA tenha autonomia para executar determinadas ações com consequências militares ou estratégicas graves.
China e Estados Unidos ainda divergem sobre como controlar a tecnologia. Pequim colocou a IA dentro da estrutura do Ministério das Relações Exteriores responsável pelo controle de armas. Washington, por sua vez, distribui o tema entre diferentes órgãos.
Nenhum dos dois governos endossou publicamente as propostas apresentadas pelos especialistas. Ao mesmo tempo, ambos demonstram preocupação com medidas que possam desacelerar seu próprio desenvolvimento tecnológico. A disputa tecnológica entre as duas potências, portanto, continua ligada à discussão sobre os limites do uso militar da IA.
O filme “Jogos de Guerra“, lançado em 1983, imaginou um adolescente que acessava acidentalmente um sistema de computadores do Pentágono e iniciava um programa de simulação interpretado como o prelúdio de uma guerra nuclear.
A produção causou tamanho impacto no então presidente dos Estados Unidos, Ronald Reagan, que ele questionou seus assessores sobre a possibilidade de uma invasão semelhante aos sistemas mais sensíveis do país. Uma semana depois, veio a resposta: “Senhor presidente, o problema é bem pior do que o senhor imagina.“
Thomas Fraise, pesquisador de pós-doutorado pela Universidade de Copenhague (Dinamarca), diz, em texto publicado no The Conversation, que as políticas de armas nucleares são baseadas em uma série de apostas sobre o futuro da dissuasão nuclear.
Países com arsenal atômico apostam que o medo da retaliação será sempre suficiente para impedir um ataque inicial do adversário e que haverá capacidade técnica e sorte suficientes para evitar explosões acidentais. Também apostam que possuir armas nucleares continuará sendo uma fonte de segurança, e não de insegurança, nas próximas décadas.
O autor afirma, no entanto, que existem cenários plausíveis em que possuir armas nucleares pode gerar mais custos reais do que benefícios potenciais em um mundo afetado pelo aquecimento global. Manter um arsenal considerado seguro e confiável exigiria escolhas orçamentárias que competiriam com outros gastos urgentes relacionados à crise climática.
Além disso, o universo de riscos existenciais que poderiam justificar o uso de armas nucleares estaria se expandindo. Um dos exemplos citados é a preocupação de especialistas de que a escassez de água no Paquistão e na Índia possa criar condições favoráveis para um conflito com potencial de escalada nuclear.
O autor também aponta outra aposta implícita nas políticas nucleares: a de que os arsenais atômicos, formados por sistemas tecnológicos complexos e altamente digitalizados, não possuam vulnerabilidades cibernéticas que possam ser exploradas por agentes interessados em comprometer seu funcionamento.
Países com arsenal atômico apostam que o medo da retaliação será sempre suficiente para impedir um ataque inicial do adversário e que haverá capacidade técnica e sorte suficientes para evitar explosões acidentais – Imagem: mwreck/Shutterstock
Onde a IA Claude Mythos entra nesse assunto?
A discussão ganhou força após o avanço do modelo de inteligência artificial (IA) Claude Mythos, desenvolvido pela Anthropic;
O sistema de IA foi lançado em 7 de abril de 2026 pela empresa, responsável pela série de modelos de linguagem Claude;
O Mythos não foi lançado comercialmente. Em vez disso, foi disponibilizado para um grupo restrito composto por cerca de uma dúzia de gigantes da tecnologia dos Estados Unidos, incluindo Google, Microsoft, Apple, Nvidia e Amazon Web Services (AWS);
De acordo com informações divulgadas pela Anthropic, o modelo alcançou uma taxa sem precedentes na identificação de vulnerabilidades em sistemas computacionais. O Mythos teria conseguido detectar falhas “zero-day” em navegadores, softwares e sistemas operacionais;
Uma vulnerabilidade “zero-day” é descrita como uma falha crítica de segurança para a qual ainda não existe proteção disponível, permitindo ataques sem tempo de reação. Segundo a Anthropic, o Mythos conseguiu desenvolver métodos para explorar essas vulnerabilidades em tempo recorde — provavelmente em menos de um dia — com taxa de sucesso de 72,4%.
Embora as informações tenham sido divulgadas pela própria empresa, Fraise ressalta que alguns indícios públicos foram apresentados. Sylvestre Ledru, diretor de engenharia responsável pelo navegador Firefox na Mozilla, afirmou que o Mythos ajudou a descobrir um número “absolutamente impressionante” de vulnerabilidades no software.
Entre os exemplos citados está a descoberta de uma falha de segurança com quase 27 anos de existência no sistema operacional de código aberto OpenBSD, amplamente utilizado por serviços de cibersegurança.
IA e o avanço das capacidades ofensivas
Segundo a análise apresentada, o Mythos evidencia um fenômeno mais amplo: a possibilidade de que o desenvolvimento da IA acelere o aumento de capacidades ofensivas no ciberespaço, não apenas entre Estados, mas também entre atores privados, como cibercriminosos.
Ao mesmo tempo, cresce a incerteza sobre a capacidade de agentes defensivos reagirem rapidamente o suficiente para corrigir vulnerabilidades existentes.
Mesmo que o Mythos não alcance integralmente o desempenho anunciado, o autor destaca que os modelos de linguagem avançados evoluíram rapidamente desde o início da década de 2020. Isso indicaria uma aceleração no desenvolvimento de ferramentas ofensivas e também na disseminação dessas capacidades para um número maior de atores.
Como consequência, haveria um potencial aumento tanto da probabilidade de ataques cibernéticos bem-sucedidos quanto do número absoluto desses ataques.
Mythos evidencia um fenômeno mais amplo: a possibilidade de que o desenvolvimento da IA acelere o aumento de capacidades ofensivas no ciberespaço, não apenas entre Estados, mas também entre atores privados, como cibercriminosos – Imagem: PhotoGranary02/Shutterstock
Vulnerabilidade dos arsenais nucleares
O pesquisador afirma que um arsenal nuclear envolve muito mais do que ogivas armazenadas. O funcionamento normal desses sistemas depende de uma ampla estrutura tecnológica composta por ogivas, mísseis capazes de transportá-las, sistemas de comunicação para transmitir ordens presidenciais e mecanismos de alerta antecipado responsáveis por monitorar sinais de um possível ataque inimigo. Todos esses elementos precisam se comunicar entre si para garantir o controle sobre as armas.
O pesquisador Herbert Lin, da Universidade de Stanford (EUA) e autor de um estudo sobre ameaças cibernéticas e armas nucleares, afirma que a metáfora do “botão nuclear” simplifica excessivamente a realidade. Segundo ele, depois que o presidente aperta o botão, uma série de “ciberbotões” também precisa ser acionada para iniciar e administrar operações nucleares.
Cada um desses pontos representaria uma oportunidade de interferência por ataques cibernéticos, como impedir que informações críticas cheguem ao destino.
Fraise aponta diferentes cenários possíveis. O presidente poderia não receber informações suficientes — ou nenhuma informação — para determinar que um ataque está em andamento. Também poderia ser incapaz de transmitir ordens de lançamento para forças submarinas.
Outro cenário mencionado é o pesadelo discutido desde os anos 1950: uma ordem falsa de lançamento ser enviada a operadores de mísseis.
As consequências não precisariam necessariamente ser tão extremas. Uma ordem poderia chegar com atraso ou não ser transmitida a todas as forças, produzindo uma retaliação mais fraca do que o planejado.
O autor relembra ainda um episódio de 2010, quando um centro de comando estadunidense perdeu comunicação com cerca de 50 mísseis nucleares durante quase uma hora.
Outra hipótese levantada é a de que um grande ataque cibernético realizado por atores não estatais pudesse criar a impressão de que um adversário estaria mirando um arsenal nuclear, aumentando o risco de escalada involuntária.
Da mesma forma, um ataque a sistemas de comando e controle ligados a operações convencionais poderia ser interpretado como ameaça ao arsenal nuclear de um país caso os sistemas estivessem integrados.
Também é citado o cenário de operações cibernéticas direcionadas às próprias armas, atingindo o hardware em vez do software.
O pesquisador afirma que agentes responsáveis pela segurança nuclear desenvolvem e testam continuamente capacidades defensivas. Ainda assim, a complexidade dos sistemas existentes impediria qualquer garantia absoluta de ausência de vulnerabilidades.
James Gosler, ex-responsável pela segurança de sistemas nucleares estadunidenses no Sandia National Laboratories, afirma que o aumento exponencial da complexidade dos componentes das armas nucleares, a partir dos anos 1980, tornou impossível assegurar que sistemas microcontrolados usados para garantir o funcionamento do mecanismo de detonação fossem totalmente livres de vulnerabilidades.
Segundo Fraise, isso não significa necessariamente que tais vulnerabilidades existam, mas indica que nenhum ator pode afirmar com certeza que elas não existam.
Aumento exponencial da complexidade dos componentes das armas nucleares, a partir dos anos 1980, tornou impossível assegurar que sistemas microcontrolados usados para garantir o funcionamento do mecanismo de detonação fossem totalmente livres de vulnerabilidades – Imagem: Ministério da Defesa da Rússia
Nova aposta sobre o futuro
A análise conclui que o Mythos revela uma nova dimensão da “aposta nuclear”, impulsionada pelo desenvolvimento de novas tecnologias e sua integração aos arsenais.
De acordo com o autor, os países apostam na ausência de vulnerabilidades nesses sistemas, embora seja impossível medir essa probabilidade com precisão. Ela mudaria ao longo do tempo conforme sistemas são atualizados, substituídos e conectados a outros.
Caso vulnerabilidades existam, a aposta passa a ser que avanços em capacidades ofensivas sempre serão acompanhados, e em tempo hábil, por avanços defensivos — inclusive na era da IA.
O pesquisador destaca que o desenvolvimento de capacidades defensivas costuma ser reativo, dependendo do conhecimento sobre ferramentas ofensivas e vulnerabilidades existentes, fatores considerados inerentemente incertos.
Nesse contexto, o autor afirma que a segurança baseada em armas nucleares implica apostar que as defesas contra ataques cibernéticos serão suficientes. Caso contrário, a aposta recairia sobre a sorte: a expectativa de que vulnerabilidades existentes não sejam descobertas, como ocorreu com a falha que permaneceu escondida por 27 anos no OpenBSD.
Segundo Fraise, a chegada de modelos avançados de IA capazes de detectar vulnerabilidades e projetar ataques cibernéticos em larga escala e de maneira automatizada tornou mais incerta a capacidade dos mecanismos atuais de controle de continuarem cumprindo seu papel.
Assim, a adoção de políticas de segurança fundamentadas em armas nucleares equivaleria, segundo a análise, a apostar que, no futuro, a sorte continuará sempre do mesmo lado.
