inteligência artificial militar

Auto Added by WPeMatico

treinamento militar realidade virtual 1024x682

Papa Leão XIV faz alerta sobre o uso de IA na guerra e cobra regras éticas globais para a tecnologia

Deixe um comentário / inteligência artificial, inteligência artificial militar, Papa Leão XIV, Vaticano /

O papa Leão XIV voltou a pedir que a inteligência artificial seja desenvolvida para promover a paz e preservar a dignidade humana. Em Roma, ele criticou sistemas que possam aprofundar divisões sociais e alertou para os riscos da tecnologia em conflitos.

A posição está presente também em sua primeira encíclica, Magnifica humanitas, publicada em maio. O documento propõe regras, supervisão e limites éticos para o desenvolvimento da IA.

Leão XIV alerta que a inteligência artificial pode acelerar conflitos militares e tornar decisões sobre vida e morte mais impessoais. – Imagem: K_E_N/Shutterstock

Um pedido por uma IA voltada à paz

Leão XIV fez o apelo durante a conferência AI4Peace, realizada na Pontifícia Universidade Lateranense, em Roma. O encontro reuniu o economista norte-americano Jeffrey Sachs, a presidente do conselho municipal de Roma, Svetlana Celli, e Francisco Rojas Aravena, reitor da Universidade para a Paz das Nações Unidas, na Costa Rica.

“Em um mundo marcado por conflitos e divisões, o desenvolvimento da inteligência artificial exige uma visão inspirada pela sabedoria e pela caridade”, afirmou o papa em uma mensagem enviada ao evento.

Tecnologia sob responsabilidade humana

Na encíclica, Leão XIV rejeita a ideia de que a tecnologia seja inerentemente ruim. Ao mesmo tempo, afirma que ela não é neutra, pois carrega características de quem a desenvolve, financia, regulamenta e utiliza.

Para o pontífice, a criação de sistemas de IA deve vir acompanhada de responsabilidade e prestação de contas. O documento aponta cinco frentes:

  • proteção da dignidade humana;
  • supervisão independente dos sistemas;
  • políticas e estruturas legais adequadas;
  • padrões éticos compartilhados;
  • educação para o uso responsável das ferramentas digitais.

Leão XIV ainda alerta para a concentração tecnológica. Segundo a encíclica, deixar essas ferramentas nas mãos de poucos pode aumentar a distância entre quem participa da transformação digital e quem permanece excluído dela.

Ilustração conceitual de inteligência artificial derrubando cargo no mercado de trabalho
Para o Papa, o avanço da automação deve respeitar o ritmo humano em vez de exigir adaptação contínua às máquinas. – Imagem: Jack_the_sparow/Shutterstock

O futuro do trabalho

O impacto da IA sobre o trabalho é outro tema abordado pelo papa. Ele reconhece que a tecnologia pode assumir tarefas repetitivas, mas questiona um modelo no qual os trabalhadores precisam se adaptar constantemente ao ritmo das máquinas.

Leia mais:

A encíclica afirma que o avanço tecnológico não deve ser orientado apenas por produtividade e lucro. Dignidade e bem comum, segundo o documento, precisam entrar nessa equação.

Quando a IA entra na guerra

Leão XIV dedica atenção especial ao emprego da inteligência artificial militar. Para ele, a revolução digital está alterando a natureza dos conflitos e exige limites éticos definidos internacionalmente.

O papa alerta que sistemas de IA podem acelerar confrontos, tornar decisões sobre vida e morte mais impessoais e reduzir vítimas a dados.

Não há algoritmo que possa tornar a guerra moralmente aceitável.

Papa Leão XIV em mensagem enviada durante a conferência AI4Peace.

Como alternativa à lógica de poder, o documento defende diálogo, diplomacia e cooperação internacional. A mensagem apresentada em Roma reforça, assim, a visão de que o avanço da IA deve estar orientado pela dignidade humana, pela paz e pelo bem comum.

O post Papa Leão XIV faz alerta sobre o uso de IA na guerra e cobra regras éticas globais para a tecnologia apareceu primeiro em Olhar Digital.

Papa Leão XIV faz alerta sobre o uso de IA na guerra e cobra regras éticas globais para a tecnologia Read More »

ia militar 1024x684

Erro de IA quase colocou EUA e China em confronto após falsa identificação de carga em navio chinês

Deixe um comentário / China, Estados Unidos, inteligência artificial, inteligência artificial militar /

Um relatório de inteligência dos EUA, produzido com ajuda de IA, indicou falsamente que um navio chinês no Oriente Médio transportava componentes de um programa de armas nucleares.

Segundo fontes ouvidas pela CNN, militares americanos chegaram a preparar uma operação para interceptar a embarcação.

A seleção de alvos é uma das áreas em que o uso militar da IA cresce, levantando dúvidas sobre a verificação das informações. – Imagem: TSViPhoto/Shutterstock

O quase conflito evitado por pouco

Tropas dos Estados Unidos mobilizaram uma operação de interceptação contra o navio após o relatório circular entre os militares. Soldados armados se preparavam para abordar a embarcação, enquanto aeronaves militares já estavam no ar.

A informação havia sido produzida por um analista do Comando de Operações Especiais, que recorreu a um chatbot para analisar relatórios de inteligência sobre o manifesto de carga do navio. A ferramenta combinou informações de fontes abertas com dados secretos do governo e identificou a carga de maneira incorreta.

O erro só foi descoberto momentos antes da operação, quando autoridades analisaram o relatório com mais atenção. O documento foi considerado “totalmente falso” por uma das fontes ouvidas pela CNN, que afirmou que o episódio “quase provocou uma guerra”.

A CNN não conseguiu determinar qual era a carga real da embarcação.

Os riscos da automação militar

O episódio chama atenção para os riscos do uso de IA na inteligência militar, especialmente na seleção de alvos. Analistas já temiam que informações fracas ou corrompidas pudessem levar a erros de cálculo com consequências graves.

Entre os problemas apontados no caso estão:

  • possibilidade de decisões militares baseadas em informações incorretas;
  • maior confiança de analistas jovens nas respostas das ferramentas;
  • ausência de um conjunto único de normas para verificar informações geradas por IA;
  • diferenças de confiabilidade e funcionamento entre os sistemas usados pelas Forças Armadas e pela comunidade de inteligência.

Uma fonte familiarizada com as políticas militares afirmou que “a IA na seleção de alvos é definitivamente algo que está se intensificando, e não há uma orientação real sobre como ter um humano no circuito evitará vítimas civis ou fogo amigo”.

Como o Olhar Digital divulgou recentemente, especialistas dos EUA e da China discutem limites para inteligência artificial militar, com foco em armas nucleares, ataques cibernéticos e controle humano, exatamente para evitar que erros como esse aconteçam com maior frequência.

Shutterstock 2623383891 1 1024x576
Estariam as superpotências preparadas para evitar tragédias quando algoritmos geram informações incorretas? Imagem:leolintang/Shutterstock

A corrida do Pentágono pela tecnologia

As Forças Armadas dos EUA vêm ampliando o uso de IA em áreas como análise de grandes volumes de inteligência, seleção de alvos, logística, cadeias de suprimentos e gestão orçamentária.

Leia mais:

Em janeiro, o secretário de Defesa Pete Hegseth anunciou a “Estratégia de Aceleração de Inteligência Artificial” de sua agência. Ao apresentar o plano, afirmou: “Vamos liberar a experimentação, eliminar barreiras burocráticas, focar nossos investimentos e demonstrar a abordagem de execução necessária para garantir nossa liderança em IA militar”.

A diretriz também prevê a disponibilização de modelos de IA para os três milhões de funcionários civis e militares do Departamento de Defesa, segundo um memorando sobre o plano.

Desafios para a segurança militar

A adoção da tecnologia, porém, ocorre de forma descentralizada. Diferentes setores das Forças Armadas e da comunidade de inteligência usam ferramentas distintas, com regras e padrões de segurança variados.

Segundo fontes ouvidas pela CNN, não existe um conjunto único de normas para verificar as informações produzidas por esses sistemas. Para alguns oficiais experientes, a velocidade da IA também pode aumentar a pressão sobre os analistas para produzir e distribuir informações rapidamente.

Uma das fontes resumiu o risco dessa dinâmica: “A IA permite que você chegue a uma ideia ruim mais rápido”.

O post Erro de IA quase colocou EUA e China em confronto após falsa identificação de carga em navio chinês apareceu primeiro em Olhar Digital.

Erro de IA quase colocou EUA e China em confronto após falsa identificação de carga em navio chinês Read More »

ia militar 1 1024x576

Especialistas de EUA e China cobram limites rígidos para conter riscos da inteligência artificial militar

Deixe um comentário / armas nucleares, China, Estados Unidos, inteligência artificial, inteligência artificial militar /

O avanço da inteligência artificial em sistemas militares preocupa autoridades e especialistas em segurança. No Fórum Xiangshan, na China, participantes alertaram que decisões aceleradas por IA podem elevar os riscos de conflito e deixar menos tempo para governos entenderem uma situação antes de reagir.

Enquanto Estados Unidos e China discutem como lidar com esses riscos, especialistas dos dois países propõem medidas para evitar que ações autônomas sejam confundidas com ataques deliberados, especialmente quando envolvem armas nucleares ou operações cibernéticas.

A preservação do julgamento humano está entre as principais propostas para reduzir os riscos da IA em sistemas militares. – Imagem: FOTOGRIN/Shutterstock

Decisões militares cada vez mais rápidas

Cerca de 2 mil militares, diplomatas e acadêmicos de 100 países participaram do Fórum Xiangshan, realizado em Pequim. O encontro ocorreu em meio às discussões sobre os limites para o uso militar da IA.

Adul Boonthumjaroen, ministro da Defesa da Tailândia, afirmou que a competição entre grandes potências não deveria se resumir à busca por maior poder.

Hoje, o mundo está em um ponto de inflexão crítico. A competição estratégica entre as grandes potências está se tornando mais evidente, os conflitos em muitas regiões continuam.

Adul Boonthumjaroen, ministro da Defesa da Tailândia, durante o Fórum.

Muhammad Ali, secretário de Defesa do Paquistão, chamou atenção para a velocidade dos avanços tecnológicos. Segundo ele, eles estão “comprimindo o cronograma estratégico”.

A preocupação não se limita ao ritmo das decisões. Segundo a Reuters, especialistas de segurança dos Estados Unidos e da China também discutem como evitar que uma reação automática seja interpretada como um ataque e desencadeie uma escalada militar. É nesse ponto que entram as propostas de salvaguardas para o uso da IA.

Salvaguardas para os riscos da IA

Especialistas que participam de um diálogo entre instituições americanas e chinesas apresentaram propostas que tratam de questões tradicionalmente ligadas ao controle de armas. Entre elas estão:

  • limitar o uso autônomo de IA em sistemas de comando nuclear;
  • manter seres humanos responsáveis por ataques cibernéticos de grande impacto;
  • criar uma linha direta entre EUA e China para incidentes envolvendo sistemas autônomos;
  • impedir que a IA decida sozinha pelo uso de armas nucleares;
  • estabelecer uma definição comum para “controle humano significativo”.

A linha direta permitiria que um governo informasse ao outro quando uma operação automatizada fosse acidental, não autorizada ou ainda estivesse sob investigação.

Isso poderia evitar uma escalada provocada por uma interpretação equivocada. Um sistema de defesa automatizado poderia reagir a uma atividade suspeita, enquanto o outro país entenderia a resposta como um ataque e retaliaria antes de saber o que realmente aconteceu.

inteligência artificial militar
Uma reação automática pode ser interpretada como ataque, criando o risco de uma escalada antes que o incidente seja esclarecido. – Imagem: FOTOGRIN/Shutterstock

Controle humano continua no centro

Jurg Lauber, vice-presidente do Comitê Internacional da Cruz Vermelha, destacou que a autonomia crescente das armas aumenta a necessidade de supervisão humana.

Leia mais:

“À medida que os sistemas de armas se tornam cada vez mais autônomos, a necessidade de preservar o julgamento e o controle humanos sobre o uso da força se torna mais urgente”, afirmou.

As propostas também incluem proteções para infraestruturas críticas, como energia, finanças e saúde. A intenção é evitar que a IA tenha autonomia para executar determinadas ações com consequências militares ou estratégicas graves.

China e Estados Unidos ainda divergem sobre como controlar a tecnologia. Pequim colocou a IA dentro da estrutura do Ministério das Relações Exteriores responsável pelo controle de armas. Washington, por sua vez, distribui o tema entre diferentes órgãos.

Nenhum dos dois governos endossou publicamente as propostas apresentadas pelos especialistas. Ao mesmo tempo, ambos demonstram preocupação com medidas que possam desacelerar seu próprio desenvolvimento tecnológico. A disputa tecnológica entre as duas potências, portanto, continua ligada à discussão sobre os limites do uso militar da IA.

O post Especialistas de EUA e China cobram limites rígidos para conter riscos da inteligência artificial militar apareceu primeiro em Olhar Digital.

Especialistas de EUA e China cobram limites rígidos para conter riscos da inteligência artificial militar Read More »