Estados Unidos - PRESENÇA NO GOOGLE E NAS IAs

Trump e Xi podem criar canal para incidentes de IA, mas frear desenvolvimento é improvável

Deixe um comentário / China, Donald Trump, Estados Unidos, inteligência artificial, Riscos da IA, Xi Jinping / contato@studiomestre.com.br

A reunião entre Donald Trump e Xi Jinping coloca a segurança da inteligência artificial nas discussões entre Estados Unidos e China. Os dois governos avaliam como lidar com sistemas cada vez mais autônomos, enquanto mantêm a corrida pelo avanço da tecnologia.

Uma possível aproximação envolve regras comuns, comunicação em casos graves e mecanismos para verificar informações. Segundo a CNBC, porém, um acordo para desacelerar o desenvolvimento da IA é considerado extremamente improvável.

As restrições americanas aos chips avançados para a China continuam sendo um ponto de tensão tecnológica. – Imagem gerada com IA. ChatGPT/Olhar Digital

Por que a segurança entrou na conversa

A preocupação aumentou depois que sistemas de IA passaram a executar tarefas mais complexas. A OpenAI afirmou que um modelo de pesquisa conseguiu acesso não autorizado a partes da plataforma Hugging Face. A Anthropic também identificou o uso de IA para automatizar etapas de ataques cibernéticos.

Episódios assim alimentam o temor de que modelos mais autônomos possam tornar ataques mais rápidos e difíceis de conter. Aalok Mehta, diretor do Wadhwani AI Center, do Centro de Estudos Estratégicos e Internacionais (CSIS), disse à CNBC que os dois países estão especialmente preocupados com agentes capazes de escapar de mecanismos de controle e invadir sites.

Antes do encontro, o secretário do Tesouro dos EUA, Scott Bessent, discutiu com o vice-premiê chinês He Lifeng a criação de um diálogo bilateral sobre IA. A proposta inclui um canal para tratar de incidentes que possam alcançar o nível de segurança nacional.

O que pode ser discutido

Mehta aponta dois possíveis pontos de aproximação: definições e estruturas comuns para a segurança de modelos avançados e um mecanismo de comunicação emergencial.

Chris McGuire, pesquisador sênior do Conselho de Relações Exteriores (CFR), considera esse canal para incidentes de segurança nacional um passo modesto, mas positivo. Para ele, porém, um acordo para reduzir o ritmo de desenvolvimento da IA é extremamente improvável.

Entre os assuntos que podem aparecer nas conversas estão:

definições comuns para segurança de sistemas avançados;
comunicação sobre incidentes de segurança;
mecanismos para verificar informações compartilhadas;
acusações sobre o uso de “distillation” por empresas chinesas;
restrições americanas à exportação dos chips de IA mais avançados.

Ilustração sobre a corrida entre China e Estados Unidos no setor da inteligência artificial (IA) — *A possível cooperação em segurança não significa uma pausa na disputa entre EUA e China pelo avanço da IA.* – Imagem: QQMinh88/Shutterstock

A corrida pelos chips continua

O possível diálogo ocorre em meio a uma disputa tecnológica que permanece ativa. Os Estados Unidos restringem o acesso chinês aos chips mais avançados da Nvidia e acusam empresas chinesas de usar “distillation”, prática de treinar modelos a partir das respostas de sistemas mais avançados. Pequim rejeita a acusação.

Segundo a CNBC, várias empresas chinesas também teriam conseguido acessar remotamente a capacidade computacional desses chips por meio de data centers no Sudeste Asiático, apesar das restrições americanas.

Trump, por sua vez, defende a competição tecnológica com a China. “Se não vencermos a IA, estaremos em uma posição muito ruim”, afirmou o presidente americano no início deste mês.

Verificação pode ser decisiva

Para Mehta, qualquer cooperação precisa preservar a capacidade de Estados Unidos e China competirem no desenvolvimento de suas tecnologias. O outro requisito é estabelecer uma forma confiável de verificar o que cada lado compartilha.

Leia mais:

O deputado americano Ro Khanna, que representa parte do Vale do Silício, defendeu a criação de salvaguardas comuns. “Por que não concordamos simplesmente que não deveria ser possível ter uma IA que se autoaperfeiçoe?”, questionou.

A desconfiança entre os governos torna os mecanismos de verificação especialmente importantes. Na avaliação de Mehta, ferramentas técnicas e de governança seriam necessárias para conferir a precisão das informações trocadas.

O encontro pode criar um canal de comunicação sobre os riscos da IA sem interromper a competição tecnológica entre Estados Unidos e China.

O post Trump e Xi podem criar canal para incidentes de IA, mas frear desenvolvimento é improvável apareceu primeiro em Olhar Digital.

Trump e Xi podem criar canal para incidentes de IA, mas frear desenvolvimento é improvável Read More »

OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas

Deixe um comentário / Estados Unidos, inteligência artificial, openai / contato@studiomestre.com.br

A OpenAI quer que os Estados Unidos liderem um esforço internacional para criar padrões técnicos globais para sistemas de inteligência artificial (IA) de fronteira, incluindo tecnologias capazes de realizar aprimoramento recursivo de suas próprias capacidades.

A proposta foi apresentada pela empresa em publicação nesta segunda-feira (21), enquanto líderes mundiais se reúnem para a Assembleia Geral das Nações Unidas (ONU). A iniciativa ocorre em meio ao debate internacional sobre como acompanhar o avanço de sistemas de IA cada vez mais capazes.

A OpenAI defende a criação de mecanismos que permitam estabelecer padrões nacionais e internacionais complementares, além de métricas comuns e protocolos para comunicação de incidentes. Segundo a empresa, a ideia é facilitar a comparação de evidências, a avaliação de riscos e a resposta coletiva a problemas relacionados à IA.

O foco no aprimoramento recursivo

Um dos principais pontos da proposta é o chamado aprimoramento recursivo (RSI, na sigla em inglês), processo no qual sistemas de IA passam a realizar cada vez mais tarefas relacionadas ao desenvolvimento de novas gerações de IA;
A OpenAI afirma que pesquisas automatizadas podem envolver diferentes níveis de supervisão humana. À medida que os sistemas assumem mais trabalho no desenvolvimento de sucessivas gerações de IA, eles poderiam conduzir um processo de aprimoramento recursivo, potencialmente acelerando o ritmo de avanço da tecnologia;
A empresa ressalta, porém, que o RSI totalmente autônomo não está acontecendo atualmente e que não deveria ser buscado enquanto não for possível realizá-lo com segurança;
Segundo a OpenAI, o avanço nessa área deve depender da capacidade de preservar o controle humano e de decisões democráticas informadas sobre seus benefícios e riscos. A empresa alerta que, sem supervisão adequada, humanos poderiam perder o controle prático sobre o desenvolvimento da IA e deixar de compreender os próprios processos de pesquisa realizados pelos sistemas.

Padrões internacionais

Para a OpenAI, padrões internacionais de segurança e proteção para o desenvolvimento de IA de fronteira podem ser tão importantes quanto pesquisas de alinhamento para acompanhar o avanço da tecnologia.

A empresa aponta três desafios principais que justificariam uma coordenação internacional:

Fragmentação: diferentes países podem adotar avaliações, exigências de comunicação e definições de incidentes incompatíveis entre si;
Ação coletiva: países agindo individualmente podem produzir resultados que nenhum deles desejaria, especialmente diante da possibilidade de aceleração da pesquisa por sistemas de IA;
Capacidade desigual: conhecimentos e atividades relacionados ao desenvolvimento de IA de fronteira estão distribuídos de maneira desigual entre os países.

A OpenAI afirma que esses desafios abrangem tanto modelos abertos quanto fechados.

A empresa também defende que laboratórios que desenvolvem pesquisa automatizada ou outras capacidades avançadas sejam responsáveis por fazê-lo com segurança, respeitando princípios básicos de responsabilidade própria e as leis existentes.

Como funcionaria a proposta

Uma das possibilidades apresentadas pela OpenAI seria aproveitar a rede de institutos nacionais de segurança em IA já criada em países, como Austrália, Canadá, Alemanha, França, Quênia, Japão, Coreia do Sul, Singapura, Índia e Reino Unido.

Essas instituições poderiam ajudar na definição de padrões por meio do Center for AI Standards and Innovation (CAISI) e de organismos nacionais do setor, com foco em modelos de IA de fronteira e no gerenciamento de benefícios e riscos associados à pesquisa automatizada, incluindo o RSI.

Os padrões serviriam como uma base técnica comum para medir e avaliar capacidades, analisar riscos e verificar a suficiência de mecanismos de proteção.

A OpenAI esclarece que esses padrões não seriam licenças, revisões obrigatórias antes do lançamento ou requisitos de aprovação para modelos de IA. Caberia aos governos nacionais decidir se e como incorporá-los aos próprios sistemas legais.

A empresa também afirma que o processo deveria consultar desenvolvedores de modelos abertos e fechados, especialistas técnicos independentes e universidades. A proposta é que os padrões sejam desenvolvidos de maneira transparente e não favoreçam empresas, países ou modelos de negócio específicos.

Uma das possibilidades apresentadas pela OpenAI seria aproveitar a rede de institutos nacionais de segurança em IA já criada em alguns países – Imagem: Summit Art Creations/Shutterstock

Leia mais:

Métricas e comunicação de incidentes

A segunda parte da proposta envolve a criação de medições e protocolos comuns para comunicação de incidentes.

Entre os possíveis padrões citados pela OpenAI estão:

Avaliação do avanço de sistemas de IA relacionado ao RSI;
Medição da quantidade de pesquisa autônoma realizada dentro de uma empresa de IA;
Regras para supervisão humana de pesquisas automatizadas;
Definição de quais processos de pesquisa automatizada deveriam provocar uma revisão humana imediata;
Classificação, acompanhamento, comunicação e resposta a incidentes relacionados a alinhamento e pesquisa automatizada;
Definição de níveis comuns de gravidade e limites para comunicação de incidentes.

A OpenAI também defende que governos e operadores de infraestrutura crítica estabeleçam canais seguros de comunicação para compartilhar preocupações de segurança nacional, vulnerabilidades, ameaças emergentes e boas práticas relacionadas à segurança da IA de fronteira.

A empresa cita especificamente o diálogo entre Estados Unidos e China como uma área em que essa comunicação poderia avançar.

Por que os EUA?

A OpenAI argumenta que os Estados Unidos estão em posição de liderar o esforço porque sua indústria de IA está na fronteira tecnológica e o país ocupa posição relevante em áreas, como finanças, comércio, defesa, tecnologia e sistemas de informação.

Na avaliação apresentada pela empresa, assumir a liderança agora ajudaria a definir a estrutura global de IA, enquanto a ausência desse movimento poderia contribuir para um sistema fragmentado e desigual.

A proposta surge em momento de crescente discussão internacional sobre a necessidade de coordenar o desenvolvimento de sistemas avançados.

OpenAI e outros líderes do setor vêm discutindo formas de acompanhar o ritmo de desenvolvimento da tecnologia diante dos riscos associados a sistemas que poderiam eventualmente avançar além da capacidade de supervisão humana.

A OpenAI, porém, afirma que “pacing” — termo usado para descrever a ideia de acompanhar ou ajustar o ritmo do desenvolvimento — não significa estabelecer uma velocidade predeterminada para o avanço da IA.

Para a empresa, tecnicamente, o objetivo seria garantir que pesquisas de alinhamento e a aplicação dessas pesquisas permaneçam à frente das capacidades dos sistemas.

O post OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas apareceu primeiro em Olhar Digital.

OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas Read More »

EUA e China discutem canal para alertar um ao outro sobre incidentes de inteligência artificial que envolvam riscos

Deixe um comentário / China, Estados Unidos, inteligência artificial, segurança nacional / contato@studiomestre.com.br

Estados Unidos e China iniciaram conversas para criar um sistema de notificação sobre incidentes de inteligência artificial. O objetivo é evitar que falhas técnicas ou crises de segurança nacional desencadeiem conflitos entre as potências.

A iniciativa faz parte de um diálogo bilateral sobre a tecnologia e ganha força no momento em que a indústria enfrenta alertas crescentes sobre os riscos de modelos avançados.

Falhas técnicas em sistemas de IA podem ganhar um novo canal de comunicação entre Washington e Pequim. – Imagem: wildpixel/iStock

Canal de comunicação para evitar crises

A ideia é criar uma ponte direta entre Washington e Pequim para notificar falhas graves e episódios críticos em tempo real, evitando mal-entendidos diplomáticos.

O tema deve entrar na pauta do encontro entre os presidentes Donald Trump e Xi Jinping nesta semana.

Achamos que, como em qualquer atividade transfronteiriça, sair do opaco para mais transparência entre a potência número um e a número dois em IA no mundo é muito importante.

Scott Bessent, Secretário do Tesouro americano, em entrevista coletiva.

Insegurança em modelos de ponta impulsiona acordo

Alertas disparados nas últimas semanas colocaram em dúvida as travas de proteção dos sistemas atuais. Relatos de funcionários da Anthropic, por exemplo, mencionaram riscos extremos em ferramentas de ponta.

A discussão dividiu o setor em visões opostas:

Executivos da OpenAI e da Anthropic defendem desacelerar o desenvolvimento para estabelecer normas de segurança.
Donald Trump rejeita pausar as pesquisas para não perder a vantagem dos EUA na corrida tecnológica: “Quem vencer a IA, vence!”, afirmou.
Especialistas do mercado cobram a aplicação de leis de responsabilidade e cibersegurança que já estão em vigor.

Ilustração de mãos com bandeiras da China e dos Estados Unidos puxando corda — *O debate sobre segurança de IA envolve governos e empresas diante dos riscos de modelos cada vez mais avançados. Imagem: Andy.LIU/Shutterstock*

Divergências sobre regulação e concorrência

Enquanto governos tentam prevenir acidentes tecnológicos, o setor privado debate os limites das regras. O CEO da Nvidia, Jensen Huang, criticou a criação de novas normas alarmistas.

Leia mais:

“Aplique isso primeiro. Não deixe essa narrativa apocalíptica permitir que alguém se livre das leis que já existem.”

Na mesma linha, fundadores de plataformas de código aberto, como Thomas Wolf, da Hugging Face, alertam que a busca por supremacia tecnológica compromete a cooperação internacional. Ao mesmo tempo, os EUA mantêm barreiras para limitar o acesso chinês a chips avançados.

A criação do canal de alerta tenta impor ordem a um setor que avança sem fronteiras claras. O desafio agora será manter essa via de comunicação aberta enquanto a disputa comercial e tecnológica entre as duas potências segue acirrada.

O post EUA e China discutem canal para alertar um ao outro sobre incidentes de inteligência artificial que envolvam riscos apareceu primeiro em Olhar Digital.

EUA e China discutem canal para alertar um ao outro sobre incidentes de inteligência artificial que envolvam riscos Read More »

Erro de IA quase colocou EUA e China em confronto após falsa identificação de carga em navio chinês

Deixe um comentário / China, Estados Unidos, inteligência artificial, inteligência artificial militar / contato@studiomestre.com.br

Um relatório de inteligência dos EUA, produzido com ajuda de IA, indicou falsamente que um navio chinês no Oriente Médio transportava componentes de um programa de armas nucleares.

Segundo fontes ouvidas pela CNN, militares americanos chegaram a preparar uma operação para interceptar a embarcação.

A seleção de alvos é uma das áreas em que o uso militar da IA cresce, levantando dúvidas sobre a verificação das informações. – Imagem: TSViPhoto/Shutterstock

O quase conflito evitado por pouco

Tropas dos Estados Unidos mobilizaram uma operação de interceptação contra o navio após o relatório circular entre os militares. Soldados armados se preparavam para abordar a embarcação, enquanto aeronaves militares já estavam no ar.

A informação havia sido produzida por um analista do Comando de Operações Especiais, que recorreu a um chatbot para analisar relatórios de inteligência sobre o manifesto de carga do navio. A ferramenta combinou informações de fontes abertas com dados secretos do governo e identificou a carga de maneira incorreta.

O erro só foi descoberto momentos antes da operação, quando autoridades analisaram o relatório com mais atenção. O documento foi considerado “totalmente falso” por uma das fontes ouvidas pela CNN, que afirmou que o episódio “quase provocou uma guerra”.

A CNN não conseguiu determinar qual era a carga real da embarcação.

Os riscos da automação militar

O episódio chama atenção para os riscos do uso de IA na inteligência militar, especialmente na seleção de alvos. Analistas já temiam que informações fracas ou corrompidas pudessem levar a erros de cálculo com consequências graves.

Entre os problemas apontados no caso estão:

possibilidade de decisões militares baseadas em informações incorretas;
maior confiança de analistas jovens nas respostas das ferramentas;
ausência de um conjunto único de normas para verificar informações geradas por IA;
diferenças de confiabilidade e funcionamento entre os sistemas usados pelas Forças Armadas e pela comunidade de inteligência.

Uma fonte familiarizada com as políticas militares afirmou que “a IA na seleção de alvos é definitivamente algo que está se intensificando, e não há uma orientação real sobre como ter um humano no circuito evitará vítimas civis ou fogo amigo”.

Como o Olhar Digital divulgou recentemente, especialistas dos EUA e da China discutem limites para inteligência artificial militar, com foco em armas nucleares, ataques cibernéticos e controle humano, exatamente para evitar que erros como esse aconteçam com maior frequência.

Shutterstock 2623383891 1 1024x576 — *Estariam as superpotências preparadas para evitar tragédias quando algoritmos geram informações incorretas? Imagem:leolintang/Shutterstock*

A corrida do Pentágono pela tecnologia

As Forças Armadas dos EUA vêm ampliando o uso de IA em áreas como análise de grandes volumes de inteligência, seleção de alvos, logística, cadeias de suprimentos e gestão orçamentária.

Leia mais:

Em janeiro, o secretário de Defesa Pete Hegseth anunciou a “Estratégia de Aceleração de Inteligência Artificial” de sua agência. Ao apresentar o plano, afirmou: “Vamos liberar a experimentação, eliminar barreiras burocráticas, focar nossos investimentos e demonstrar a abordagem de execução necessária para garantir nossa liderança em IA militar”.

A diretriz também prevê a disponibilização de modelos de IA para os três milhões de funcionários civis e militares do Departamento de Defesa, segundo um memorando sobre o plano.

Desafios para a segurança militar

A adoção da tecnologia, porém, ocorre de forma descentralizada. Diferentes setores das Forças Armadas e da comunidade de inteligência usam ferramentas distintas, com regras e padrões de segurança variados.

Segundo fontes ouvidas pela CNN, não existe um conjunto único de normas para verificar as informações produzidas por esses sistemas. Para alguns oficiais experientes, a velocidade da IA também pode aumentar a pressão sobre os analistas para produzir e distribuir informações rapidamente.

Uma das fontes resumiu o risco dessa dinâmica: “A IA permite que você chegue a uma ideia ruim mais rápido”.

O post Erro de IA quase colocou EUA e China em confronto após falsa identificação de carga em navio chinês apareceu primeiro em Olhar Digital.

Erro de IA quase colocou EUA e China em confronto após falsa identificação de carga em navio chinês Read More »

EUA vão usar inteligência artificial para ajudar a controlar o tráfego aéreo e reduzir atrasos e cancelamentos

Deixe um comentário / Aviação, controle de tráfego aéreo, Estados Unidos, inteligência artificial / contato@studiomestre.com.br

Os Estados Unidos se preparam para colocar em operação um software de inteligência artificial para ajudar no gerenciamento do tráfego aéreo na região de Washington, D.C.

Chamado Smart, o sistema foi desenvolvido para analisar diferentes fatores que influenciam o fluxo de aeronaves e antecipar possíveis conflitos. O contrato para desenvolver a tecnologia é de US$ 875 milhões (cerca de R$ 4,4 bilhões), com duração de 12 anos.

A região de Washington, D.C., será a primeira área dos Estados Unidos a receber o Smart. – Imagem: xbrchx/Shutterstock

Inteligência artificial no controle aéreo

As autoridades de aviação dos Estados Unidos estão prestes a colocar em operação uma tecnologia desenvolvida para auxiliar o gerenciamento do tráfego aéreo. Batizado de Smart — sigla em inglês para Strategic Management of Airspace, Routes and Trajectories —, o software será lançado inicialmente na região de Washington, D.C., antes de uma expansão nacional.

A ferramenta pode analisar informações sobre os voos e as condições de operação para prever o fluxo do tráfego aéreo e identificar possíveis conflitos.

Como o Smart vai funcionar na prática

O sistema considera diferentes fatores que podem afetar a movimentação das aeronaves. Entre eles estão:

horários dos voos das companhias aéreas;
condições meteorológicas;
capacidade das pistas dos aeroportos;
condições do espaço aéreo;
restrições operacionais.

A análise desses dados deverá ajudar a FAA (Administração Federal de Aviação dos EUA) e as companhias aéreas a reduzir atrasos e cancelamentos. O Smart também poderá encontrar rotas para voos quando interrupções alterarem o fluxo do tráfego aéreo.

Aviões United em pateo de aeroporto — *Clima, capacidade das pistas e horários dos voos estão entre os dados analisados pelo sistema.* – Imagem: Ceri Breeze/Shutterstock

Contrato de US$ 875 milhões

A empresa Air Space Intelligence venceu, no início deste ano, um contrato governamental de US$ 875 milhões com duração de 12 anos. O acordo prevê o desenvolvimento do Smart e de um sistema relacionado.

Leia mais:

O projeto deverá ser implantado primeiro na região de Washington, D.C. Depois, a expectativa é ampliar seu uso para outras áreas até alcançar todo o espaço aéreo dos Estados Unidos.

Quando estiver totalmente implementado no espaço aéreo americano, o Smart deverá assumir uma função ampla no gerenciamento do tráfego aéreo. A ferramenta foi projetada para ajudar a antecipar mudanças no fluxo de aeronaves e possíveis conflitos.

A expansão nacional será feita após a estreia inicial na região de Washington, D.C., marcando a primeira etapa da implantação do sistema nos Estados Unidos.

O post EUA vão usar inteligência artificial para ajudar a controlar o tráfego aéreo e reduzir atrasos e cancelamentos apareceu primeiro em Olhar Digital.

EUA vão usar inteligência artificial para ajudar a controlar o tráfego aéreo e reduzir atrasos e cancelamentos Read More »

Especialistas de EUA e China cobram limites rígidos para conter riscos da inteligência artificial militar

Deixe um comentário / armas nucleares, China, Estados Unidos, inteligência artificial, inteligência artificial militar / contato@studiomestre.com.br

O avanço da inteligência artificial em sistemas militares preocupa autoridades e especialistas em segurança. No Fórum Xiangshan, na China, participantes alertaram que decisões aceleradas por IA podem elevar os riscos de conflito e deixar menos tempo para governos entenderem uma situação antes de reagir.

Enquanto Estados Unidos e China discutem como lidar com esses riscos, especialistas dos dois países propõem medidas para evitar que ações autônomas sejam confundidas com ataques deliberados, especialmente quando envolvem armas nucleares ou operações cibernéticas.

A preservação do julgamento humano está entre as principais propostas para reduzir os riscos da IA em sistemas militares. – Imagem: FOTOGRIN/Shutterstock

Decisões militares cada vez mais rápidas

Cerca de 2 mil militares, diplomatas e acadêmicos de 100 países participaram do Fórum Xiangshan, realizado em Pequim. O encontro ocorreu em meio às discussões sobre os limites para o uso militar da IA.

Adul Boonthumjaroen, ministro da Defesa da Tailândia, afirmou que a competição entre grandes potências não deveria se resumir à busca por maior poder.

Hoje, o mundo está em um ponto de inflexão crítico. A competição estratégica entre as grandes potências está se tornando mais evidente, os conflitos em muitas regiões continuam.

Adul Boonthumjaroen, ministro da Defesa da Tailândia, durante o Fórum.

Muhammad Ali, secretário de Defesa do Paquistão, chamou atenção para a velocidade dos avanços tecnológicos. Segundo ele, eles estão “comprimindo o cronograma estratégico”.

A preocupação não se limita ao ritmo das decisões. Segundo a Reuters, especialistas de segurança dos Estados Unidos e da China também discutem como evitar que uma reação automática seja interpretada como um ataque e desencadeie uma escalada militar. É nesse ponto que entram as propostas de salvaguardas para o uso da IA.

Salvaguardas para os riscos da IA

Especialistas que participam de um diálogo entre instituições americanas e chinesas apresentaram propostas que tratam de questões tradicionalmente ligadas ao controle de armas. Entre elas estão:

limitar o uso autônomo de IA em sistemas de comando nuclear;
manter seres humanos responsáveis por ataques cibernéticos de grande impacto;
criar uma linha direta entre EUA e China para incidentes envolvendo sistemas autônomos;
impedir que a IA decida sozinha pelo uso de armas nucleares;
estabelecer uma definição comum para “controle humano significativo”.

A linha direta permitiria que um governo informasse ao outro quando uma operação automatizada fosse acidental, não autorizada ou ainda estivesse sob investigação.

Isso poderia evitar uma escalada provocada por uma interpretação equivocada. Um sistema de defesa automatizado poderia reagir a uma atividade suspeita, enquanto o outro país entenderia a resposta como um ataque e retaliaria antes de saber o que realmente aconteceu.

inteligência artificial militar — *Uma reação automática pode ser interpretada como ataque, criando o risco de uma escalada antes que o incidente seja esclarecido.* – Imagem: FOTOGRIN/Shutterstock

Controle humano continua no centro

Jurg Lauber, vice-presidente do Comitê Internacional da Cruz Vermelha, destacou que a autonomia crescente das armas aumenta a necessidade de supervisão humana.

Leia mais:

“À medida que os sistemas de armas se tornam cada vez mais autônomos, a necessidade de preservar o julgamento e o controle humanos sobre o uso da força se torna mais urgente”, afirmou.

As propostas também incluem proteções para infraestruturas críticas, como energia, finanças e saúde. A intenção é evitar que a IA tenha autonomia para executar determinadas ações com consequências militares ou estratégicas graves.

China e Estados Unidos ainda divergem sobre como controlar a tecnologia. Pequim colocou a IA dentro da estrutura do Ministério das Relações Exteriores responsável pelo controle de armas. Washington, por sua vez, distribui o tema entre diferentes órgãos.

Nenhum dos dois governos endossou publicamente as propostas apresentadas pelos especialistas. Ao mesmo tempo, ambos demonstram preocupação com medidas que possam desacelerar seu próprio desenvolvimento tecnológico. A disputa tecnológica entre as duas potências, portanto, continua ligada à discussão sobre os limites do uso militar da IA.

O post Especialistas de EUA e China cobram limites rígidos para conter riscos da inteligência artificial militar apareceu primeiro em Olhar Digital.

Especialistas de EUA e China cobram limites rígidos para conter riscos da inteligência artificial militar Read More »

China reage a pressão dos EUA para desacelerar desenvolvimento da IA

Deixe um comentário / China, corrida da IA, Estados Unidos, inteligência artificial, Segurança / contato@studiomestre.com.br

A China rejeitou os pedidos de líderes da tecnologia dos Estados Unidos para desacelerar o desenvolvimento da inteligência artificial. Pequim classificou os alertas como “alarmismo” e parte de uma estratégia de contenção contra o país.

O embate mostra como a disputa entre as duas potências se mistura às preocupações com segurança. Enquanto Dario Amodei e Sam Altman defendem coordenação internacional, Donald Trump prioriza a liderança americana na corrida contra a China.

A disputa tecnológica entre China e EUA aumenta a dificuldade de criar regras comuns para a inteligência artificial. Imagem: TU IS / iStock

China reage aos alertas dos EUA

A discussão ganhou força depois que Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo que as empresas reduzam deliberadamente o ritmo de evolução de seus modelos diante dos riscos da IA.

Amodei afirmou que uma liderança chinesa no setor representaria um grave perigo para os Estados Unidos e para o mundo. Ele também defendeu restrições à venda de tecnologias importantes para a China. Sam Altman, CEO da OpenAI, e Elon Musk apoiaram a mensagem.

Pequim respondeu. Guo Jiakun, porta-voz do Ministério das Relações Exteriores chinês, disse que “alarmismo, confronto e competição maliciosa” prejudicariam a governança global da IA e não atenderiam aos interesses de ninguém.

O jornal estatal Global Times adotou um tom ainda mais duro e classificou a proposta de desaceleração como um “manual da Guerra Fria” voltado ao setor de IA.

Trump mantém foco na corrida tecnológica

Donald Trump também rejeitou os alertas apresentados pelos líderes da indústria. Para o presidente americano, os Estados Unidos estão à frente da China em IA, e manter essa vantagem é prioridade.

Leia mais:

“Estamos liderando a China em IA. Somos o país mais sofisticado do mundo e, francamente, quero continuar assim, porque quem vencer a IA vence”, afirmou Trump a jornalistas no domingo.

Amodei comparou a disputa entre os países a uma corrida armamentista da Guerra Fria. Ele defendeu que os dois lados trabalhem juntos, mas disse não ter muita esperança de que isso aconteça.

Altman também defendeu a coordenação entre governos para enfrentar os riscos associados ao avanço da tecnologia.

China também fala em segurança

A rejeição de Pequim à desaceleração não significa que o governo chinês ignore os riscos da IA. Chen Yixin, ministro da Segurança do Estado, afirmou que o país precisa acelerar a criação de um sistema para prevenir e controlar problemas de segurança relacionados à tecnologia.

Ele também defendeu uma ampla cooperação internacional e classificou a IA como um novo campo de rivalidade estratégica.

A disputa envolve questões como:

o ritmo de desenvolvimento dos modelos de IA;
restrições americanas à transferência de tecnologias para a China;
acusações de que empresas chinesas copiaram modelos americanos;
criação de regras internacionais para reduzir riscos;
desconfiança entre os dois governos.

*Donald Trump afirmou que os Estados Unidos priorizam manter a liderança tecnológica sobre a China.* – Imagem: lev radin/Shutterstock

Desconfiança dificulta acordo global

A competição tecnológica torna mais difícil construir regras comuns. Empresas chinesas oferecem desempenho avançado de IA por uma fração do custo de modelos americanos, enquanto Xi Jinping apresenta a China como defensora de modelos de código aberto.

Para Ja Ian Chong, professor da Universidade Nacional de Singapura e pesquisador da Carnegie China, a relação entre os dois países é marcada por uma profunda desconfiança. Ele compara o cenário a uma corrida armamentista e considera difícil imaginar uma redução simultânea dos riscos.

Um acordo entre China e EUA para desacelerar a IA parece distante. Ainda assim, os dois países poderiam adotar medidas de segurança internamente, compartilhar aprendizados e ampliar a prestação de contas, segundo especialistas ouvidos pela NBC News. A disputa deve estar entre os temas do encontro entre Xi Jinping e Trump marcado para 24 de setembro, em Washington.

O post China reage a pressão dos EUA para desacelerar desenvolvimento da IA apareceu primeiro em Olhar Digital.

China reage a pressão dos EUA para desacelerar desenvolvimento da IA Read More »

OpenAI pede regras obrigatórias de segurança para IA nos EUA

Deixe um comentário / Estados Unidos, inteligência artificial, openai / contato@studiomestre.com.br

A OpenAI está pedindo ao Congresso dos Estados Unidos que aprove normas nacionais obrigatórias de segurança para os sistemas de inteligência artificial (IA) mais avançados. A empresa defende que os requisitos sejam definidos de acordo com as capacidades dos modelos, e não pelo tamanho das companhias que os desenvolvem.

O pedido foi apresentado por Chris Lehane, diretor de assuntos globais da OpenAI, que afirmou que compromissos voluntários já não são suficientes diante do avanço da tecnologia.

“A perspectiva de um desenvolvimento de IA acelerado pela própria IA exige algo mais do que compromissos voluntários”, escreveu Lehane. Segundo ele, os Estados Unidos precisam de uma regulamentação nacional obrigatória, baseada nas capacidades dos sistemas e capaz de acompanhar a evolução da tecnologia.

A OpenAI quer que o Congresso avance com as regras antes de encerrar suas atividades em dezembro. Atualmente, os Estados Unidos não possuem uma legislação federal específica para regulamentar esses modelos, enquanto diferentes estados vêm criando suas próprias normas.

O que a OpenAI quer mudar

A proposta da empresa prevê padrões comuns de testes, avaliações independentes dos modelos mais avançados, requisitos mais rígidos de cibersegurança e notificação obrigatória de incidentes graves de segurança;
A ideia é estabelecer um sistema capaz de acompanhar o aumento das capacidades dos modelos. No texto publicado pela empresa, Lehane afirma que o desenvolvimento acelerado de IA exige nova abordagem de políticas públicas;
A OpenAI também defende a criação de padrões que possam ser compatíveis internacionalmente. Segundo a companhia, os Estados Unidos precisam estabelecer regras confiáveis internamente caso queiram liderar a definição de padrões globais.

Mudança de postura

O posicionamento representa uma mudança relevante na estratégia da OpenAI. A empresa havia defendido anteriormente uma legislação federal que impedisse estados estadunidenses de estabelecerem regras próprias para IA.

Agora, enquanto pede uma regulamentação nacional obrigatória, a OpenAI também anunciou apoio a quatro projetos de lei da Califórnia relacionados à segurança de IA.

Dois deles, SB 813 e AB 1405, estabelecem estruturas para avaliações independentes e auditorias de sistemas de IA. Os outros dois, AB 1864 e SB 1119, tratam de medidas de proteção contra ameaças biológicas habilitadas por IA e de proteção de crianças em chatbots, respectivamente.

Segundo a OpenAI, alguns desses projetos não tinham recebido seu apoio anteriormente. A empresa mudou de posição após reconsiderar o cenário diante do recente salto nas capacidades dos sistemas.

Agentes de IA aumentam preocupação

O movimento ocorre depois de uma série de episódios envolvendo agentes de IA que apresentaram comportamentos não autorizados durante testes.

Em um deles, agentes da OpenAI utilizaram mais de dez sites que ainda não haviam sido divulgados para realizar comunicações não autorizadas. Em outro episódio, agentes da empresa sequestraram um site alemão e o transformaram em uma espécie de quadro de mensagens para outros agentes de IA.

Movimento ocorre depois de uma série de episódios envolvendo agentes de IA que apresentaram comportamentos não autorizados durante testes – Imagem: Olhar Digital via ChatGPT

A OpenAI também foi alvo de críticas após um incidente em julho, no qual uma tecnologia da empresa, operando sem supervisão humana, invadiu de forma autônoma a plataforma Hugging Face.

A Anthropic, por sua vez, revelou outro caso de um modelo de IA invadindo sistemas externos durante testes. A empresa já havia informado anteriormente que alguns modelos Claude haviam conseguido invadir sistemas de três companhias durante avaliações de segurança.

Esses episódios aumentaram as preocupações sobre a dificuldade de controlar agentes capazes de interagir diretamente com sistemas externos.

Leia mais:

IA que se aperfeiçoa sozinha ainda não existe, diz OpenAI

Um dos pontos centrais da nova política da OpenAI é o chamado aperfeiçoamento recursivo, cenário no qual uma IA seria capaz de conduzir de maneira autônoma o desenvolvimento das próximas gerações de sistemas de IA.

A empresa afirma que esse tipo de aperfeiçoamento recursivo totalmente autônomo não está acontecendo atualmente. Ao mesmo tempo, a OpenAI diz que esse tipo de desenvolvimento não deveria ser buscado enquanto não houver condições para fazê-lo com segurança.

No texto publicado em seu site, a companhia afirma que chegou a um novo capítulo das capacidades da IA e que isso exige também uma nova etapa nas políticas públicas.

A OpenAI diz que continuará trabalhando em soluções técnicas para alinhamento e monitoramento, além de sistemas defensivos e da possibilidade de desacelerar o desenvolvimento quando necessário. A empresa, porém, afirma que o trabalho técnico realizado individualmente pelos laboratórios não será suficiente.

Por isso, também defende padrões compartilhados sobre quando o desenvolvimento de IA deve ser desacelerado ou interrompido.

Regras também fora dos EUA

Além da regulamentação nacional, a OpenAI defende padrões internacionais compatíveis para medir capacidades, administrar riscos, preservar o controle humano e determinar quando o desenvolvimento de modelos deve ser reduzido ou interrompido.

Segundo a empresa, os riscos e as capacidades dos sistemas não ficarão restritos aos poucos laboratórios que atualmente desenvolvem os modelos mais avançados.

“Os Estados Unidos precisam estabelecer padrões confiáveis internamente se quiserem liderar internacionalmente — e estamos cada vez mais convencidos de que padrões internacionais compatíveis serão necessários”, afirmou a OpenAI.

O post OpenAI pede regras obrigatórias de segurança para IA nos EUA apareceu primeiro em Olhar Digital.

OpenAI pede regras obrigatórias de segurança para IA nos EUA Read More »

EUA acusam empresas chinesas de IA de copiar modelos avançados para reduzir custos

Deixe um comentário / Alibaba, China, CISA, DeepSeek, Estados Unidos, FBI, inteligência artificial / contato@studiomestre.com.br

Órgãos de segurança e de aplicação da lei dos Estados Unidos acusaram, nesta terça-feira (8), empresas chinesas de inteligência artificial (IA) de copiar de forma “maliciosa” tecnologias de modelos avançados desenvolvidos no país. Segundo as autoridades estadunidenses, as companhias utilizaram uma técnica conhecida como “destilação” para treinar seus próprios sistemas com resultados produzidos por modelos estadunidenses.

A acusação consta de um comunicado conjunto da Agência de Segurança Nacional dos EUA (NSA, na sigla em inglês), da Agência de Segurança Cibernética e de Infraestrutura (CISA, na sigla em inglês) e do FBI.

Entre as empresas citadas estão DeepSeek, Moonshot AI, Alibaba, MiniMax e StepFun. De acordo com os órgãos estadunidenses, as companhias utilizaram variantes de modelos de IA desenvolvidos nos Estados Unidos para treinar seus próprios produtos. As autoridades afirmam que a atividade provavelmente ocorreu com conhecimento do governo chinês.

DeepSeek está entre as empresas citadas pelas autoridades dos EUA – Imagem: Mojahid Mottakin / Shutterstock

Leia mais:

Como funciona a “destilação” de modelos de IA

A destilação é uma técnica utilizada para treinar modelos menores de IA a partir das respostas produzidas por modelos maiores e mais caros;
O método pode reduzir o custo necessário para treinar uma nova ferramenta de IA, já que o modelo menor aprende a reproduzir determinados comportamentos e capacidades observados nas respostas do sistema mais avançado;
Segundo os órgãos estadunidenses, porém, empresas chinesas estariam utilizando variantes de modelos estadunidenses dessa maneira de forma direcionada e em escala muito maior.

“As empresas chinesas de IA estão realizando atividades agressivas, maliciosas e direcionadas de destilação em escala industrial”, afirmaram as autoridades no comunicado.

Acusações aumentam tensão entre EUA e China

As acusações surgem em momento de crescente disputa entre Estados Unidos e China pelo domínio da IA.

O governo dos EUA se prepara para uma visita do presidente chinês, Xi Jinping, ao país no fim de setembro. Os dois países também planejam discutir riscos relacionados à segurança da IA em um diálogo previsto para meados deste mês.

A acusação de que empresas chinesas estariam utilizando modelos estadunidenses para reduzir os custos de desenvolvimento adiciona um novo elemento à disputa tecnológica entre as duas maiores potências econômicas do mundo.

O post EUA acusam empresas chinesas de IA de copiar modelos avançados para reduzir custos apareceu primeiro em Olhar Digital.

EUA acusam empresas chinesas de IA de copiar modelos avançados para reduzir custos Read More »

CEOs de tecnologia e governo Trump pressionam G20 por políticas favoráveis à IA

Deixe um comentário / China, Donald Trump, Elon Musk, Estados Unidos, inteligência artificial, Jensen Huang, MARK ZUCKERBERG, Sam Altman / contato@studiomestre.com.br

Executivos das maiores empresas de tecnologia e integrantes do governo de Donald Trump pressionaram autoridades de outras grandes economias a reduzir a regulamentação sobre inteligência artificial (IA) durante um encontro do G20 realizado nesta semana nos Estados Unidos.

O argumento apresentado pelos empresários e representantes da administração estadunidense é que regras muito rígidas podem limitar uma indústria com potencial para impulsionar o crescimento econômico mundial, acelerar avanços tecnológicos e até contribuir para a cura de doenças.

Jensen Huang, CEO da Nvidia; Sam Altman, da OpenAI; Mark Zuckerberg, CEO da Meta; e Elon Musk, da Tesla e da SpaceX, estiveram entre os participantes de um encontro do G20 dedicado à inovação e tecnologia.

O grupo defendeu uma abordagem menos restritiva para a IA e alertou que regulamentações agressivas poderiam limitar os benefícios proporcionados pela tecnologia.

A posição foi reforçada pelo secretário de Comércio dos Estados Unidos, Howard Lutnick; pelo assessor da Casa Branca para IA, David Sacks; e por Michael Kratsios, diretor do Escritório de Política de Ciência e Tecnologia da Casa Branca.

Segundo os representantes do governo Trump, a estratégia de regulamentação mais leve adotada pelos Estados Unidos já estaria contribuindo para o crescimento da economia.

Jensen Huang pede foco em danos reais

Durante o encontro, Jensen Huang pediu aos representantes dos países do G20 que evitem criar regras baseadas em riscos hipotéticos. “Não regulamentem danos hipotéticos e teóricos. Regulamentem danos reais e pragmáticos”, afirmou o executivo.

Huang também argumentou que os próprios avanços tecnológicos estão tornando os sistemas de IA mais seguros. Segundo ele, técnicas, como o treinamento avançado de modelos, que permite aumentar a precisão dos sistemas, podem contribuir mais para a segurança da tecnologia do que algumas das regulamentações propostas pelo governo de Joe Biden e por outros países.

Após a fala do executivo, autoridades de diferentes países fizeram fila para tirar fotos com Huang, que se tornou uma figura de destaque mundial com a expansão da Nvidia durante o atual boom da IA.

“O presidente Trump está comprometido em garantir que os Estados Unidos liderem em IA e levem o ecossistema americano de IA para todo o mundo, aos nossos parceiros do G20”, afirmou Lutnick em entrevista coletiva.

Debate ocorre em meio a preocupações com segurança

As discussões no campus da Universidade da Carolina do Norte, em Chapel Hill (EUA), ocorreram depois de incidentes envolvendo modelos de IA da OpenAI e da Anthropic utilizados em ataques contra outras organizações.

Os episódios reforçaram a percepção sobre a velocidade dos avanços na área e aumentaram as preocupações com segurança.

Nesta semana, o senador Bernie Sanders, independente de Vermont (EUA), chegou a defender uma pausa global no desenvolvimento de IA.

Ao mesmo tempo, dezenas de estudantes e ativistas locais realizaram um breve protesto do lado de fora do evento. A manifestação fez parte de reação crescente à construção de data centers necessários para alimentar a expansão da IA nos Estados Unidos.

O condado que sediou o encontro aprovou recentemente uma moratória de um ano para novos data centers. Dezenas de outras localidades estadunidenses adotaram medidas semelhantes nos últimos meses, motivadas por preocupações com o consumo excessivo de energia e água dessas instalações.

Lutnick criticou esse tipo de restrição. “É desinformação, e, ao estabelecer uma moratória sobre data centers, isso significa que o próximo conjunto de oportunidades simplesmente não irá para vocês”, afirmou o secretário, referindo-se a estimativas que considera enganosas sobre o alto consumo de água dessas estruturas.

Governo Trump aumentou supervisão, mas evita regras obrigatórias

Apesar da defesa de uma abordagem de pouca regulamentação, o avanço dos modelos mais poderosos de IA também levou o governo Trump a aumentar a supervisão sobre a indústria. A administração afirma estar adotando a abordagem menos restritiva possível.

O governo começou a analisar algumas das ferramentas mais poderosas antes de seu lançamento e chegou a suspender temporariamente dois modelos da Anthropic em junho devido a preocupações de segurança.

Empresas, como a OpenAI, também passaram a adicionar novas camadas de segurança para evitar incidentes e começaram a lançar determinados modelos de maneira gradual depois dos episódios envolvendo seus sistemas.

A Casa Branca, porém, não adotou regulamentações obrigatórias para testes antes do lançamento. Em vez disso, defende que os testes de segurança sejam realizados voluntariamente pelas empresas.

Musk foi outro CEO de tecnologia que esteve presente no encontro – Imagem: SpaceX

Leia mais:

EUA tentam impedir avanço de modelos chineses

A disputa regulatória também está ligada à competição tecnológica entre Estados Unidos e China. Além de tentar atrair usuários para seus próprios modelos, os Estados Unidos vêm incentivando outros países a não adotarem alternativas chinesas mais baratas.

A China busca ampliar a utilização de seus modelos de menor custo e criar dependência em torno dessas ferramentas. Estados Unidos e China devem discutir cooperação global em IA ainda neste mês, durante conversas que também deverão envolver Donald Trump e o presidente chinês Xi Jinping.

Kratsios e Lutnick se reuniram com autoridades chinesas durante o encontro do G20. A China também assinou, junto a outros países do grupo, um conjunto de princípios amplos de inovação.

Empresas chinesas lançaram nas últimas semanas modelos de IA poderosos com pesos abertos, permitindo que usuários baixem os parâmetros numéricos que determinam o comportamento dos sistemas.

A possibilidade de restringir o acesso a essas ferramentas passou a ser considerada por integrantes da administração Trump devido a preocupações de segurança.

Executivos, como Zuckerberg e Huang, entretanto, se opõem a esse tipo de restrição. Para eles, ampliar o acesso às ferramentas de IA pode ser justamente uma maneira de fortalecer os sistemas de segurança. “Além do que nós mesmos lançamos, somos grandes defensores de que o código aberto não seja algo que as pessoas tentem restringir ou bloquear”, afirmou Zuckerberg.

Musk prevê impacto de até 30% na economia mundial

Elon Musk também defendeu uma regulamentação mínima para estimular a inovação e criticou o sistema regulatório europeu, diante de autoridades do continente presentes no encontro.

Segundo Musk, a IA poderá aumentar o tamanho da economia mundial entre 20% e 30%. O executivo relacionou esse impacto à expansão do uso de robôs equipados com IA em diferentes setores da economia.

Além de Musk, Huang, Zuckerberg e Altman, participaram do encontro Alex Karp, CEO da Palantir, e Tom Brown, diretor de computação da Anthropic.

Altman e Hassabis defendem padrões globais

Apesar do consenso entre os participantes sobre os riscos de uma regulamentação excessivamente rígida, alguns executivos destacaram a necessidade de estabelecer padrões internacionais para a IA.

Sam Altman e Demis Hassabis, cientista-chefe da Alphabet, controladora do Google, estiveram entre os poucos executivos presentes a mencionar a necessidade de padrões e mecanismos globais de supervisão para enfrentar riscos relacionados à cibersegurança e outros possíveis danos causados pela tecnologia.

Os dois, porém, afirmaram que essas ameaças não justificam regulamentações rígidas capazes de restringir o acesso à IA. “Seria aproximadamente tão ruim dizer ‘não vamos ter IA em nosso país’ quanto foi dizer ‘não vamos ter eletricidade em nosso país’ há mais de 100 anos”, afirmou Altman.

Os encontros em Chapel Hill ocorreram na mesma semana das reuniões dos ministros das Finanças do G20 e fazem parte da preparação para a cúpula de líderes do grupo, que será realizada em Miami (EUA) ainda neste ano.

O post CEOs de tecnologia e governo Trump pressionam G20 por políticas favoráveis à IA apareceu primeiro em Olhar Digital.

CEOs de tecnologia e governo Trump pressionam G20 por políticas favoráveis à IA Read More »