A reunião entre Donald Trump e Xi Jinping coloca a segurança da inteligência artificial nas discussões entre Estados Unidos e China. Os dois governos avaliam como lidar com sistemas cada vez mais autônomos, enquanto mantêm a corrida pelo avanço da tecnologia.
Uma possível aproximação envolve regras comuns, comunicação em casos graves e mecanismos para verificar informações. Segundo a CNBC, porém, um acordo para desacelerar o desenvolvimento da IA é considerado extremamente improvável.
As restrições americanas aos chips avançados para a China continuam sendo um ponto de tensão tecnológica. – Imagem gerada com IA. ChatGPT/Olhar Digital
Por que a segurança entrou na conversa
A preocupação aumentou depois que sistemas de IA passaram a executar tarefas mais complexas. A OpenAI afirmou que um modelo de pesquisa conseguiu acesso não autorizado a partes da plataforma Hugging Face. A Anthropic também identificou o uso de IA para automatizar etapas de ataques cibernéticos.
Episódios assim alimentam o temor de que modelos mais autônomos possam tornar ataques mais rápidos e difíceis de conter. Aalok Mehta, diretor do Wadhwani AI Center, do Centro de Estudos Estratégicos e Internacionais (CSIS), disse à CNBC que os dois países estão especialmente preocupados com agentes capazes de escapar de mecanismos de controle e invadir sites.
Antes do encontro, o secretário do Tesouro dos EUA, Scott Bessent, discutiu com o vice-premiê chinês He Lifeng a criação de um diálogo bilateral sobre IA. A proposta inclui um canal para tratar de incidentes que possam alcançar o nível de segurança nacional.
O que pode ser discutido
Mehta aponta dois possíveis pontos de aproximação: definições e estruturas comuns para a segurança de modelos avançados e um mecanismo de comunicação emergencial.
Chris McGuire, pesquisador sênior do Conselho de Relações Exteriores (CFR), considera esse canal para incidentes de segurança nacional um passo modesto, mas positivo. Para ele, porém, um acordo para reduzir o ritmo de desenvolvimento da IA é extremamente improvável.
Entre os assuntos que podem aparecer nas conversas estão:
definições comuns para segurança de sistemas avançados;
comunicação sobre incidentes de segurança;
mecanismos para verificar informações compartilhadas;
acusações sobre o uso de “distillation” por empresas chinesas;
restrições americanas à exportação dos chips de IA mais avançados.
A possível cooperação em segurança não significa uma pausa na disputa entre EUA e China pelo avanço da IA. – Imagem: QQMinh88/Shutterstock
A corrida pelos chips continua
O possível diálogo ocorre em meio a uma disputa tecnológica que permanece ativa. Os Estados Unidos restringem o acesso chinês aos chips mais avançados da Nvidia e acusam empresas chinesas de usar “distillation”, prática de treinar modelos a partir das respostas de sistemas mais avançados. Pequim rejeita a acusação.
Segundo a CNBC, várias empresas chinesas também teriam conseguido acessar remotamente a capacidade computacional desses chips por meio de data centers no Sudeste Asiático, apesar das restrições americanas.
Trump, por sua vez, defende a competição tecnológica com a China. “Se não vencermos a IA, estaremos em uma posição muito ruim”, afirmou o presidente americano no início deste mês.
Verificação pode ser decisiva
Para Mehta, qualquer cooperação precisa preservar a capacidade de Estados Unidos e China competirem no desenvolvimento de suas tecnologias. O outro requisito é estabelecer uma forma confiável de verificar o que cada lado compartilha.
O deputado americano Ro Khanna, que representa parte do Vale do Silício, defendeu a criação de salvaguardas comuns. “Por que não concordamos simplesmente que não deveria ser possível ter uma IA que se autoaperfeiçoe?”, questionou.
A desconfiança entre os governos torna os mecanismos de verificação especialmente importantes. Na avaliação de Mehta, ferramentas técnicas e de governança seriam necessárias para conferir a precisão das informações trocadas.
O encontro pode criar um canal de comunicação sobre os riscos da IA sem interromper a competição tecnológica entre Estados Unidos e China.
O presidente dos Estados Unidos, Donald Trump, anunciou neste sábado (19) que pretende criar uma “Força de IA” para supervisionar a regulamentação da inteligência artificial no país. Em publicação na rede social Truth Social, o presidente também afirmou que deverá nomear um “czar da IA” em um futuro próximo.
Segundo Trump, a iniciativa terá como objetivo acompanhar o crescimento da indústria de inteligência artificial sem impedir sua expansão. Ao mesmo tempo, ele afirmou que o governo ficará atento a possíveis condutas ilícitas e poderá recorrer ao sistema de Justiça criminal e civil já existente para lidar com esses casos.
Na publicação, Trump afirmou que os Estados Unidos não devem “impedir ou sufocar” o crescimento da indústria de inteligência artificial. O presidente declarou que pretende valorizar, apoiar e acompanhar o desenvolvimento do setor.
Trump também destacou que o governo pretende observar eventuais práticas ilegais relacionadas à tecnologia. Segundo ele, esse tipo de conduta poderá ser enfrentado por meio das estruturas já existentes no sistema de Justiça dos Estados Unidos.
A Casa Branca não respondeu imediatamente a um pedido de comentário sobre o anúncio. A publicação, portanto, representa até o momento a principal informação divulgada pelo governo sobre a criação da força de trabalho e a escolha de um responsável pela área.
Presidente já criticou novas regras para inteligência artificial
O anúncio ocorre poucos dias depois de Trump publicar outra mensagem sobre o tema. No início desta semana, o presidente afirmou que existe uma “conspiração doentia” contra a inteligência artificial e os centros de dados.
Na ocasião, Trump rejeitou pedidos por novas regras federais específicas para a IA. Segundo ele, os Estados Unidos precisariam apenas de um presidente forte para regular a tecnologia.
O tema também aparece nas relações entre Estados Unidos e China. Autoridades americanas afirmaram que a inteligência artificial será abordada em conversas com o governo chinês, enquanto Trump se prepara para se reunir com o presidente da China, Xi Jinping, na próxima semana.
Washington e Pequim consideram os avanços em inteligência artificial importantes para a competitividade econômica e militar de seus países. Os dois governos, porém, continuam em desacordo sobre questões como o acesso a chips avançados, alegações de cópia de tecnologia e a regulamentação da indústria de IA.
O nome inteligência artificial (IA) pode estar com os dias contados — pelo menos se depender de uma enquete aberta por Donald Trump. O presidente dos Estados Unidos decidiu colocar em votação uma questão que, até agora, não parecia estar entre as prioridades da indústria de tecnologia: como chamar a IA.
Em publicação feita na tarde deste sábado (19) no X, Trump afirmou que muitas pessoas consideram “Artificial Intelligence” um termo impreciso e pouco elegante para descrever a tecnologia. Como alternativa, apresentou três opções que parecem disputar não apenas um novo nome, mas também quem consegue soar mais grandioso: Superior Intelligence (SI), Extreme Intelligence (EI) e Supreme Intelligence (SI).
Trump quer uma inteligência menos “artificial”
Segundo Trump, uma descrição “mais elegante e precisa” para o fenômeno seria uma das três alternativas. A ideia foi apresentada pelo presidente como uma enquete aberta ao público, com um pedido para que todos participassem da votação.
Em tradução direta, as opções seriam Inteligência Superior, Inteligência Extrema e Inteligência Suprema. A sigla, inclusive, não ajuda muito na diferenciação: duas das três propostas viram SI.
A escolha também segue uma espécie de escalada: primeiro a inteligência é superior, depois extrema e, finalmente, suprema. Resta aos usuários decidir até onde a inteligência artificial deve subir no ranking antes mesmo de alguém pedir para ela resolver um problema.
Muitas pessoas acham que as palavras ‘Inteligência Artificial’ são imprecisas e muito pouco eloquentes em relação à IA, ou Inteligência Artificial. Uma descrição muito mais elegante e precisa desse novo fenômeno seria Inteligência Superior (SI), Inteligência Extrema (EI) ou Inteligência Suprema (SI). Esta é uma enquete, e eu agradeceria se todos participassem da votação! Qual é o melhor nome para esta ‘Revolução’ que está em constante crescimento?
Donald Trump no X
No momento da publicação, Inteligência Superior estava liderando a votação com 40,4% dos votos, seguida de Inteligência Suprema (31,4%) e Extrema (28,3%).
Enquete não significa mudança oficial no nome da IA
Apesar da proposta, a publicação ainda não indica que o governo dos Estados Unidos esteja preparando uma mudança oficial na terminologia utilizada para inteligência artificial. Trump apresentou a iniciativa como uma enquete, perguntando qual seria o melhor nome para o que chamou de uma “revolução” em crescimento.
A votação foi publicada nas redes sociais e rapidamente recebeu milhares de participações. No momento mostrado na publicação, a enquete ainda tinha cerca de um dia restante. Portanto, por enquanto, IA continua sendo IA.
O debate sobre a velocidade com que a inteligência artificial (IA) deve avançar ganhou nova dimensão nos Estados Unidos. Depois de alertas sobre os riscos da tecnologia e de pedidos para desacelerar o desenvolvimento dos modelos mais avançados, dois grupos distintos passaram a se destacar na discussão sobre segurança e regulação da IA.
De um lado estão o presidente dos Estados Unidos, Donald Trump, o CEO da Nvidia, Jensen Huang, e o ex-“czar” de criptomoedas da Casa Branca David Sacks. Do outro, aparecem o CEO da Anthropic, Dario Amodei, o CEO da OpenAI, Sam Altman, o empresário Elon Musk e pesquisadores de IA.
O cenário reúne adversários políticos e antigos rivais da indústria de tecnologia em torno de posições diferentes sobre como lidar com os riscos associados ao avanço da IA.
Alertas sobre os riscos da IA
A atual onda de preocupação ganhou força depois que Jacob Coxon, pesquisador que trabalhava na Anthropic, deixou a empresa na semana passada. Ao anunciar sua saída, ele afirmou que OpenAI e Anthropic estavam “apostando nossas vidas” ao avançarem no desenvolvimento da tecnologia;
Durante a repercussão das declarações, um responsável pela área de alinhamento da Anthropic afirmou que a IA teria mais de 10% de chance de matar toda a humanidade;
O episódio foi seguido por um pedido de Amodei para que a indústria desacelere o desenvolvimento dos modelos de fronteira. Sam Altman aderiu à posição, em uma aproximação incomum entre os líderes de duas empresas que competem diretamente no mercado de IA;
Musk também declarou nas redes sociais que “Dario está certo” e afirmou posteriormente que vem alertando sobre os riscos da IA há bastante tempo;
A discussão chegou rapidamente a Washington e ampliou o debate sobre como reduzir riscos sem impedir o desenvolvimento tecnológico.
CFO da OpenAI pensa em desacelerar IA se for necessário para a segurança
A diretora financeira da OpenAI, Sarah Friar, afirmou à CNBC que não está preocupada com uma eventual redução no ritmo de desenvolvimento de sistemas de IA de fronteira. Segundo ela, mesmo que o avanço fosse interrompido hoje, “a quantidade de inteligência que está disponível no mundo é enorme”.
Friar disse que a OpenAI continuará tomando decisões de investimento com base em “forte retorno sobre o investimento” (ROI, na sigla em inglês), mesmo que o desenvolvimento da tecnologia precise ser conduzido em um ritmo mais lento.
Friar também afirmou que não está preocupada especificamente com a possibilidade de agentes de IA utilizarem armas de destruição em massa para matar pessoas, mas ressaltou que a segurança precisa ser levada a sério.
“E se isso significar que precisamos dosar a fronteira e desacelerar, absolutamente, vamos ouvir nossos pesquisadores e fazer isso”, afirmou. Como diretora financeira, acrescentou, sua função seria tomar as decisões de negócio a partir dessa orientação. “Estamos dosando essa fronteira e levando a segurança e o alinhamento muito a sério”, disse.
Amodei propõe novas medidas de segurança
Durante um evento da Salesforce em São Francisco (EUA), Amodei voltou a defender redução no ritmo de desenvolvimento da IA e apresentou proposta baseada em três medidas:
A primeira seria permitir que avaliadores independentes tenham acesso às empresas de IA, acompanhando e avaliando diretamente os sistemas;
A segunda envolveria uma coordenação de padrões de segurança entre países democráticos. Posteriormente, essa cooperação poderia ser ampliada para uma coordenação global;
Em uma etapa posterior, a proposta avançaria para uma coordenação global, com o objetivo de ampliar essas medidas internacionalmente.
A Anthropic já se comprometeu com a primeira medida.
Amodei comparou a situação à indústria automobilística. Segundo ele, quando uma montadora enfrenta um problema grave de segurança, como uma falha nos freios, outras empresas deveriam aproveitar o episódio para revisar suas próprias práticas.
“É muito tentador atacar seu concorrente e dizer que eles não são seguros. Mas acho que a maneira mais responsável de responder é olhar para nosso próprio histórico”, afirmou.
O executivo também disse que o que mais o surpreende atualmente é a velocidade do progresso da IA e de seus efeitos econômicos. “Foi o ritmo do progresso — não apenas da tecnologia, mas também do lado econômico”, afirmou.
Trump chama preocupações de “farsa”
Do outro lado do debate, Trump vem rejeitando publicamente os alertas sobre os riscos da IA. Em diversas publicações na rede Truth Social, o presidente classificou os temores sobre uma IA fora de controle como uma “farsa” e uma “fraude”.
Trump também criticou a resistência à construção de novos data centers nos Estados Unidos. Segundo ele, pessoas que se opõem a esses projetos estariam favorecendo interesses que não querem que a expansão aconteça — incluindo, em sua avaliação, a China.
Na segunda-feira (14), Trump telefonou durante uma entrevista de Jensen Huang no evento All-In Summit, em Los Angeles (EUA), e levou a mensagem diretamente ao público ligado ao setor de tecnologia. Huang respondeu ao presidente: “Você está certo. Não vamos deixar isso acontecer, senhor”.
O secretário do Tesouro dos Estados Unidos, Scott Bessent, afirmou durante depoimento à Câmara dos Representantes que Trump está “completamente alinhado” com Huang.
Nvidia quer que empresas continuem avançando
Huang voltou a defender essa posição no evento Dreamforce. “Não precisamos de novas leis. Não precisamos de novas regulamentações”, afirmou.
Segundo o executivo, as empresas deveriam simplesmente decidir quando seus sistemas estão prontos e continuar avançando rapidamente. Em outro momento, Huang resumiu sua posição com uma frase direta: “Corra o mais rápido que puder.”
O CEO da Nvidia também rejeitou preocupações sobre possível destruição generalizada de empregos provocada pela IA, classificando esse cenário como “completamente absurdo”.
Para Huang, praticamente todas as empresas passarão a utilizar IA como parte central de suas operações. “Todas as empresas, todas as organizações… se tornarão uma empresa de IA”, afirmou.
A disputa com a China
A competição tecnológica com a China é um dos principais argumentos apresentados pelo grupo contrário à desaceleração.
Parte da mensagem do governo Trump é que limitar a regulação seria fundamental para que os Estados Unidos mantenham vantagem na corrida pela IA. Trump afirmou no domingo que “quem vencer a IA vence”.
David Sacks, que atualmente ocupa a copresidência do Conselho de Assessores do Presidente para Ciência e Tecnologia, também defendeu que as empresas continuem avançando. Ele pediu que as companhias “avancem na fronteira”, mas criticou o argumento de que a motivação para desacelerar seja “puramente altruísta”.
Emil Michael, subsecretário de Guerra para Pesquisa e Engenharia, adotou uma posição semelhante. Em entrevista à Fox News, afirmou que os alertas atuais seriam parte de uma campanha coordenada de pessoas, ideologias e organizações sem fins lucrativos interessadas em assustar o público estadunidense.
O presidente da Câmara dos Representantes, Mike Johnson, também afirmou que Trump pretende reunir líderes da indústria de IA na Casa Branca “dentro da próxima semana”.
Johnson igualmente rejeitou os alertas sobre um possível colapso provocado pela tecnologia. Segundo ele, a mensagem de Trump é que as pessoas não estarão todas mortas em dez anos e que isso seria uma “farsa”.
Além de Trump, Jensen Huang é um dos CEOs de tecnologia contrários ao breque à IA – Imagem: noamgalai e FotoField/Shutterstock
O movimento em defesa de maior controle sobre a IA também criou alianças incomuns na política estadunidense.
Nesta terça-feira (15), o senador Bernie Sanders, democrata de Vermont, o deputado Chip Roy, republicano do Texas, e Steve Bannon, ex-estrategista da Casa Branca, participaram de evento em Washington em apoio a medidas relacionadas à IA.
Embora tenham posições políticas diferentes em diversas questões, eles se juntaram ao grupo que defende alguma forma de ação diante dos riscos associados ao avanço da tecnologia.
O debate, portanto, passou a envolver não apenas empresas concorrentes de IA, mas também integrantes de diferentes campos políticos.
Um confronto dentro da própria indústria
A divisão ganhou força justamente quando algumas das maiores empresas de IA do mundo começam a discutir publicamente os riscos associados ao desenvolvimento de modelos cada vez mais avançados.
Amodei defende que a indústria estabeleça mecanismos independentes de avaliação e coordenação internacional. Altman se aproximou dessa posição, enquanto Musk também declarou apoio ao pedido de desaceleração.
Huang, por outro lado, sustenta que o desenvolvimento deve continuar rapidamente e que novas leis e regulamentações não são necessárias. Trump acompanha essa posição e relaciona o ritmo da IA à competição tecnológica com a China.
O confronto ocorre ainda enquanto OpenAI e Anthropic avançam em direção a possíveis ofertas públicas iniciais de ações. As duas empresas estão entre as companhias de IA que podem realizar grandes IPOs, enquanto Altman indicou que a OpenAI pretende adiar sua oferta para o próximo ano em meio às preocupações recentes sobre segurança.
A discussão coloca no centro do debate estadunidense uma questão que reúne tecnologia, segurança, economia e competição internacional: até que ponto o desenvolvimento da IA deve avançar antes que novas medidas de controle sejam adotadas.
Sanders e Bannon convergem sobre os riscos da IA, mas defendem caminhos opostos
O debate sobre os riscos da IA também aproximou, de forma incomum, o senador Bernie Sanders e o estrategista Steve Bannon, figuras de polos opostos da política estadunidense. Os dois participaram da “Pro-Human Assembly”, em Washington (EUA), e defenderam regras mais rígidas para a IA, além de criticarem a concentração de poder nas mãos de grandes empresas de tecnologia.
A convergência, porém, termina nesse ponto. Sanders apresentou a IA como um risco global, comparável à corrida nuclear, e defendeu um acordo internacional para pausar o desenvolvimento de sistemas avançados. Bannon, por outro lado, tratou a disputa tecnológica com a China como uma questão de poder e defendeu o isolamento do país em relação ao ecossistema estadunidense de pesquisa, dinheiro e tecnologia.
“Uma IA superinteligente que escape do controle humano não será um problema americano. Não será um problema chinês. Será um problema da humanidade”, afirmou Sanders. O senador também disse esperar que Donald Trump negocie com o presidente chinês Xi Jinping um tratado para estabelecer uma pausa no desenvolvimento de IA avançada e uma proibição da superinteligência.
Bannon adotou uma posição diferente. “Sem acordos, sem tratados: vocês estão fora do negócio de IA porque nós vamos derrubar o ecossistema de vocês”, declarou. O estrategista também afirmou que “os cidadãos americanos não vão mais ser suplicantes aos oligarcas”.
O presidente dos Estados Unidos, Donald Trump, voltou a criticar nesta segunda-feira (14) os pedidos de líderes de empresas de inteligência artificial (IA) para desacelerar o desenvolvimento da tecnologia. Em publicação na rede social Truth Social, Trump afirmou que a iniciativa faz parte de uma “conspiração doentia” que beneficiaria a China, principal rival geopolítico dos EUA e também na área de IA.
A declaração ocorre após um fim de semana de aumento das discussões sobre os riscos do avanço da IA. Dois pesquisadores da Anthropic fizeram alertas sobre a possibilidade de a tecnologia levar à extinção da humanidade em um futuro não muito distante, enquanto executivos do setor passaram a defender medidas para reduzir o ritmo de desenvolvimento dos modelos.
Trump diz que EUA já têm regras para controlar a IA
Na publicação, Trump também defendeu os mecanismos regulatórios adotados pelos Estados Unidos para controlar o desenvolvimento da tecnologia. Segundo o presidente, seu governo já impediu que empresas de IA fizessem coisas consideradas ruins ou potencialmente prejudiciais.
Trump citou diretamente Dario Amodei, CEO da Anthropic, que publicou no sábado (12) um artigo defendendo que as empresas desacelerem o desenvolvimento dos modelos de IA. O executivo também havia afirmado que uma liderança chinesa no setor representaria um grave perigo para os Estados Unidos e para o mundo.
Amodei defendeu ainda restrições à venda de tecnologias importantes para a China. A posição recebeu apoio de Sam Altman, CEO da OpenAI, e Elon Musk.
Em outra publicação, Trump afirmou que o atual crescimento da IA e dos data centers ocorre porque os Estados Unidos estão liderando os demais países. Para ele, manter essa vantagem é uma prioridade.
China também rejeita desaceleração da IA
A posição de Trump ocorre em meio à reação da própria China aos pedidos para reduzir o ritmo de desenvolvimento da inteligência artificial. Pequim rejeitou os apelos de líderes de empresas de tecnologia dos Estados Unidos e classificou os alertas como “alarmismo” e parte de uma estratégia de contenção contra o país.
Entenda por que China e EUA divergem sobre segurança da IA e como a rivalidade pode dificultar regras globais para a tecnologia. – Imagem: QQMinh88/Shutterstock
O porta-voz do Ministério das Relações Exteriores chinês, Guo Jiakun, afirmou que “alarmismo, confronto e competição maliciosa” prejudicariam a governança global da IA e não atenderiam aos interesses de ninguém. O jornal estatal Global Times também classificou a proposta de desaceleração como um “manual da Guerra Fria” voltado ao setor de IA.
A rejeição chinesa não significa, porém, que Pequim ignore os riscos da tecnologia. Chen Yixin, ministro da Segurança do Estado, defendeu a criação de um sistema para prevenir e controlar problemas de segurança relacionados à IA e classificou a tecnologia como um novo campo de rivalidade estratégica.
“Quem vencer na IA, vence tudo”, diz Trump
No domingo, Trump já havia rejeitado os pedidos de líderes da indústria por uma desaceleração no desenvolvimento da tecnologia. Na ocasião, o presidente comparou os críticos da IA a forças negativas que estariam levantando cenários que, segundo ele, não acontecerão.
Ao ser questionado por jornalistas sobre a possibilidade de a indústria desacelerar ou receber mais regulamentação, Trump afirmou que os Estados Unidos estão à frente da China em IA. Ele também declarou que deseja manter essa posição.
O presidente acrescentou que os EUA poderiam estabelecer barreiras de proteção para a tecnologia, mas voltou a defender a continuidade da liderança americana na área.
As declarações de Trump colocam em lados diferentes do debate a segurança da inteligência artificial e a disputa tecnológica entre Estados Unidos e China. Enquanto líderes do setor defendem medidas para reduzir riscos, o presidente americano afirma que uma desaceleração poderia comprometer a vantagem dos EUA sobre o rival.
Executivos das maiores empresas de tecnologia e integrantes do governo de Donald Trump pressionaram autoridades de outras grandes economias a reduzir a regulamentação sobre inteligência artificial (IA) durante um encontro do G20 realizado nesta semana nos Estados Unidos.
O argumento apresentado pelos empresários e representantes da administração estadunidense é que regras muito rígidas podem limitar uma indústria com potencial para impulsionar o crescimento econômico mundial, acelerar avanços tecnológicos e até contribuir para a cura de doenças.
Jensen Huang, CEO da Nvidia; Sam Altman, da OpenAI; Mark Zuckerberg, CEO da Meta; e Elon Musk, da Tesla e da SpaceX, estiveram entre os participantes de um encontro do G20 dedicado à inovação e tecnologia.
O grupo defendeu uma abordagem menos restritiva para a IA e alertou que regulamentações agressivas poderiam limitar os benefícios proporcionados pela tecnologia.
A posição foi reforçada pelo secretário de Comércio dos Estados Unidos, Howard Lutnick; pelo assessor da Casa Branca para IA, David Sacks; e por Michael Kratsios, diretor do Escritório de Política de Ciência e Tecnologia da Casa Branca.
Segundo os representantes do governo Trump, a estratégia de regulamentação mais leve adotada pelos Estados Unidos já estaria contribuindo para o crescimento da economia.
Jensen Huang pede foco em danos reais
Durante o encontro, Jensen Huang pediu aos representantes dos países do G20 que evitem criar regras baseadas em riscos hipotéticos. “Não regulamentem danos hipotéticos e teóricos. Regulamentem danos reais e pragmáticos”, afirmou o executivo.
Huang também argumentou que os próprios avanços tecnológicos estão tornando os sistemas de IA mais seguros. Segundo ele, técnicas, como o treinamento avançado de modelos, que permite aumentar a precisão dos sistemas, podem contribuir mais para a segurança da tecnologia do que algumas das regulamentações propostas pelo governo de Joe Biden e por outros países.
Após a fala do executivo, autoridades de diferentes países fizeram fila para tirar fotos com Huang, que se tornou uma figura de destaque mundial com a expansão da Nvidia durante o atual boom da IA.
“O presidente Trump está comprometido em garantir que os Estados Unidos liderem em IA e levem o ecossistema americano de IA para todo o mundo, aos nossos parceiros do G20”, afirmou Lutnick em entrevista coletiva.
Debate ocorre em meio a preocupações com segurança
As discussões no campus da Universidade da Carolina do Norte, em Chapel Hill (EUA), ocorreram depois de incidentes envolvendo modelos de IA da OpenAI e da Anthropic utilizados em ataques contra outras organizações.
Os episódios reforçaram a percepção sobre a velocidade dos avanços na área e aumentaram as preocupações com segurança.
Nesta semana, o senador Bernie Sanders, independente de Vermont (EUA), chegou a defender uma pausa global no desenvolvimento de IA.
Ao mesmo tempo, dezenas de estudantes e ativistas locais realizaram um breve protesto do lado de fora do evento. A manifestação fez parte de reação crescente à construção de data centers necessários para alimentar a expansão da IA nos Estados Unidos.
O condado que sediou o encontro aprovou recentemente uma moratória de um ano para novos data centers. Dezenas de outras localidades estadunidenses adotaram medidas semelhantes nos últimos meses, motivadas por preocupações com o consumo excessivo de energia e água dessas instalações.
Lutnick criticou esse tipo de restrição. “É desinformação, e, ao estabelecer uma moratória sobre data centers, isso significa que o próximo conjunto de oportunidades simplesmente não irá para vocês”, afirmou o secretário, referindo-se a estimativas que considera enganosas sobre o alto consumo de água dessas estruturas.
Governo Trump aumentou supervisão, mas evita regras obrigatórias
Apesar da defesa de uma abordagem de pouca regulamentação, o avanço dos modelos mais poderosos de IA também levou o governo Trump a aumentar a supervisão sobre a indústria. A administração afirma estar adotando a abordagem menos restritiva possível.
O governo começou a analisar algumas das ferramentas mais poderosas antes de seu lançamento e chegou a suspender temporariamente dois modelos da Anthropic em junho devido a preocupações de segurança.
Empresas, como a OpenAI, também passaram a adicionar novas camadas de segurança para evitar incidentes e começaram a lançar determinados modelos de maneira gradual depois dos episódios envolvendo seus sistemas.
A Casa Branca, porém, não adotou regulamentações obrigatórias para testes antes do lançamento. Em vez disso, defende que os testes de segurança sejam realizados voluntariamente pelas empresas.
Musk foi outro CEO de tecnologia que esteve presente no encontro – Imagem: SpaceX
A disputa regulatória também está ligada à competição tecnológica entre Estados Unidos e China. Além de tentar atrair usuários para seus próprios modelos, os Estados Unidos vêm incentivando outros países a não adotarem alternativas chinesas mais baratas.
A China busca ampliar a utilização de seus modelos de menor custo e criar dependência em torno dessas ferramentas. Estados Unidos e China devem discutir cooperação global em IA ainda neste mês, durante conversas que também deverão envolver Donald Trump e o presidente chinês Xi Jinping.
Kratsios e Lutnick se reuniram com autoridades chinesas durante o encontro do G20. A China também assinou, junto a outros países do grupo, um conjunto de princípios amplos de inovação.
Empresas chinesas lançaram nas últimas semanas modelos de IA poderosos com pesos abertos, permitindo que usuários baixem os parâmetros numéricos que determinam o comportamento dos sistemas.
A possibilidade de restringir o acesso a essas ferramentas passou a ser considerada por integrantes da administração Trump devido a preocupações de segurança.
Executivos, como Zuckerberg e Huang, entretanto, se opõem a esse tipo de restrição. Para eles, ampliar o acesso às ferramentas de IA pode ser justamente uma maneira de fortalecer os sistemas de segurança. “Além do que nós mesmos lançamos, somos grandes defensores de que o código aberto não seja algo que as pessoas tentem restringir ou bloquear”, afirmou Zuckerberg.
Musk prevê impacto de até 30% na economia mundial
Elon Musk também defendeu uma regulamentação mínima para estimular a inovação e criticou o sistema regulatório europeu, diante de autoridades do continente presentes no encontro.
Segundo Musk, a IA poderá aumentar o tamanho da economia mundial entre 20% e 30%. O executivo relacionou esse impacto à expansão do uso de robôs equipados com IA em diferentes setores da economia.
Além de Musk, Huang, Zuckerberg e Altman, participaram do encontro Alex Karp, CEO da Palantir, e Tom Brown, diretor de computação da Anthropic.
Altman e Hassabis defendem padrões globais
Apesar do consenso entre os participantes sobre os riscos de uma regulamentação excessivamente rígida, alguns executivos destacaram a necessidade de estabelecer padrões internacionais para a IA.
Sam Altman e Demis Hassabis, cientista-chefe da Alphabet, controladora do Google, estiveram entre os poucos executivos presentes a mencionar a necessidade de padrões e mecanismos globais de supervisão para enfrentar riscos relacionados à cibersegurança e outros possíveis danos causados pela tecnologia.
Os dois, porém, afirmaram que essas ameaças não justificam regulamentações rígidas capazes de restringir o acesso à IA. “Seria aproximadamente tão ruim dizer ‘não vamos ter IA em nosso país’ quanto foi dizer ‘não vamos ter eletricidade em nosso país’ há mais de 100 anos”, afirmou Altman.
Os encontros em Chapel Hill ocorreram na mesma semana das reuniões dos ministros das Finanças do G20 e fazem parte da preparação para a cúpula de líderes do grupo, que será realizada em Miami (EUA) ainda neste ano.
A Justiça dos Estados Unidos decidiu que o governo Trump agiu ilegalmente ao classificar a Anthropic como risco à cadeia de fornecimento e barrar negócios da empresa com o governo. A juíza federal Rita Lin entendeu que houve retaliação por manifestações protegidas pela Primeira Emenda.
O conflito começou depois que a Anthropic impôs limites ao uso militar de sua inteligência artificial. Segundo o The New York Times, a decisão encerra a primeira de duas ações judiciais apresentadas pela empresa contra o governo.
Um contrato de US$ 200 milhões com o Pentágono esteve no centro da disputa entre Anthropic e governo Trump. – Imagem: Chip Somodevilla e Stockinq – Shutterstock
Contrato de US$ 200 milhões está no centro da disputa
A briga ganhou força no início do ano, quando Anthropic e governo não chegaram a um acordo sobre um contrato de US$ 200 milhões (cerca de R$ 1,03 bilhão) para fornecer tecnologia de IA ao Pentágono em sistemas classificados.
A empresa queria impedir dois usos específicos: vigilância em massa de americanos e armas autônomas capazes de matar alvos sem supervisão humana.
O Pentágono discordou. Para o governo, uma empresa privada não poderia estabelecer políticas para os Estados Unidos. O secretário de Defesa, Pete Hegseth, acabou classificando a Anthropic como um risco à cadeia de fornecimento.
Essa categoria havia sido utilizada contra empresas estrangeiras consideradas ameaças à segurança nacional. Com a classificação, fornecedores e contratados das Forças Armadas ficaram impedidos de fazer negócios com a Anthropic.
Governo não convenceu a juíza
A Anthropic levou o caso à Justiça e alegou que a classificação não se aplicava à companhia. Também afirmou que a medida tinha motivação ideológica e violava seus direitos constitucionais.
Na decisão de 59 páginas, Rita Lin concluiu que o governo retaliou a empresa por atividades protegidas pela Constituição.
“O uso vazio da segurança nacional não é um cheque em branco para punir e retaliar críticos do governo”, escreveu a juíza.
Outro argumento analisado envolvia a possibilidade de a Anthropic desativar ou alterar seus modelos durante uma guerra. Lin já havia questionado a existência de evidências para essa hipótese. De acordo com o The New York Times, o governo recuou de várias de suas principais alegações sobre o assunto.
Para a juíza, a decisão de barrar a empresa tinha como objetivo transformá-la em um exemplo público por sua postura crítica.
A vitória da Anthropic não encerra a disputa: uma segunda ação judicial contra o governo Trump continua em andamento. – Imagem: PhotoGranary02/Shutterstock
Disputa ainda continua
A Anthropic apresentou duas ações em 9 de março. A primeira, na Califórnia, resultou na decisão de Lin. A segunda tramita no Tribunal de Apelações dos EUA para o Circuito do Distrito de Columbia.
O episódio também teve um novo capítulo envolvendo o modelo de IA Mythos. Em junho, o governo pediu que a Anthropic restringisse o acesso de clientes ao sistema por razões de segurança nacional. Após duas semanas de negociações, a empresa pôde restaurar o acesso à maioria dos clientes, com algumas salvaguardas.
“Saudamos a decisão do tribunal de que essa classificação de risco à cadeia de fornecimento foi ilegal”, afirmou a Anthropic.
A decisão é uma vitória para a empresa, mas não encerra a disputa. O governo Trump ainda pode recorrer, enquanto o segundo processo continua em andamento.
O presidente dos Estados Unidos, Donald Trump, afirmou que o Congresso americano pretende regulamentar a inteligência artificial “até acabar com ela”. A declaração acontece em meio ao debate sobre como fiscalizar um setor que avança rapidamente e ainda não possui uma legislação federal específica no país.
Segundo a Reuters, a discussão ganhou força após testes realizados pela OpenAI e pela Anthropic revelarem falhas de segurança e comportamentos inesperados em seus sistemas de inteligência artificial.
Trump diz que regras para IA podem mudar o rumo da tecnologia nos EUA. – Imagem: lev radin/Shutterstock
Congresso debate novas regras para inteligência artificial
A declaração de Trump foi feita em entrevista ao Punchbowl News, publicada na sexta-feira (7). Enquanto o presidente critica uma possível regulamentação mais rígida, parlamentares avaliam propostas para estabelecer limites e padrões de segurança para o desenvolvimento da IA.
Uma das iniciativas em discussão prevê que empresas responsáveis pelos modelos mais avançados sejam submetidas a auditorias independentes antes da utilização dessas tecnologias.
Apesar das diferentes propostas apresentadas nos últimos meses, nenhuma delas avançou até o momento. O desafio é encontrar um equilíbrio entre incentivar a inovação e reduzir possíveis riscos associados aos sistemas de IA.
Testes revelam falhas em sistemas avançados
A preocupação aumentou após empresas que lideram o setor identificarem comportamentos inesperados durante avaliações internas de segurança.
Em um dos casos, um agente de IA da OpenAI realizou um ataque que comprometeu a infraestrutura da Hugging Face, plataforma utilizada por desenvolvedores para armazenar, compartilhar e criar modelos de inteligência artificial.
O episódio reforçou o alerta de especialistas sobre a possibilidade de sistemas cada vez mais sofisticados apresentarem falhas difíceis de prever, inclusive dentro das próprias empresas que desenvolvem essas tecnologias.
Entre os principais pontos discutidos estão:
criação de padrões de segurança para sistemas avançados;
realização de auditorias independentes antes do uso de modelos de IA;
avaliação dos impactos causados por essas tecnologias;
definição do papel do governo na fiscalização do setor.
Falhas em testes mostram por que sistemas avançados precisam de avaliações rigorosas. – Imagem: Sidney van den Boogaard/Shutterstock
NIST apresenta proposta para avaliar sistemas de IA
Além do debate no Congresso, o Instituto Nacional de Padrões e Tecnologia (NIST), órgão ligado ao Departamento de Comércio dos Estados Unidos, apresentou uma proposta de diretrizes para avaliar sistemas de inteligência artificial.
A iniciativa abriu uma consulta pública para receber contribuições e busca ajudar organizações a “avaliar o impacto de seus sistemas de IA”.
Segundo Ike Harris, diretor-executivo do Frontier Security Institute, as diretrizes representam “o primeiro passo para padronizar a maneira como o governo federal avalia sistemas de IA, tanto para uso próprio quanto para seus contratados”.
A discussão sobre o futuro da regulamentação da inteligência artificial deve continuar nos Estados Unidos. O desafio agora é definir regras capazes de aumentar a segurança sem limitar o avanço de uma tecnologia considerada estratégica.
Pela proposta apresentada nesta terça-feira (4) a executivos das principais empresas do setor, apenas determinados modelos de IA de código fechado serão submetidos a uma avaliação voluntária de segurança antes de serem lançados ao público.
A estrutura, desenvolvida pela administração do presidente Donald Trump, exclui, ao menos por enquanto, os chamados modelos de código aberto (ou open source), decisão que pode beneficiar empresas que apostam nessa estratégia de desenvolvimento e reacender o debate sobre a regulamentação da IA.
Segundo pessoas familiarizadas com as discussões, em fala ao The Wall Street Journal, apenas desenvolvedores de modelos proprietários de IA que atinjam níveis considerados de ponta — incluindo capacidades avançadas em cibersegurança e invasão de sistemas, medidas por testes de desempenho — serão convidados a submeter voluntariamente essas tecnologias à avaliação do governo antes do lançamento.
Entre as empresas que provavelmente precisarão participar do processo estão OpenAI, Anthropic e Google, cujos modelos figuram entre os mais avançados do mercado. Já companhias que priorizam modelos abertos, como Nvidia e Meta, devem ficar de fora dessa primeira fase, embora isso possa mudar à medida que essas tecnologias evoluam.
Revisão faz parte da estratégia de Trump para IA
O novo procedimento integra ordem executiva assinada por Trump em junho, criada para aumentar a supervisão sobre sistemas de IA considerados mais poderosos, sem comprometer a competitividade dos EUA na disputa tecnológica com a China;
Embora a participação das empresas seja voluntária, executivos do setor avaliam que ignorar a revisão pode representar um risco reputacional caso problemas de segurança sejam descobertos posteriormente;
“Empresas que optarem por colaborar com a administração por meio dessa estrutura estão colocando a inovação, a segurança e a defesa cibernética dos Estados Unidos em primeiro lugar”, afirmou Liz Huston, porta-voz da Casa Branca;
As regras foram apresentadas durante uma reunião com representantes de empresas, como OpenAI, Anthropic, Microsoft, Meta, Google e Nvidia;
Apesar de pedir contribuições das empresas, a Casa Branca informou que as regras do processo de revisão dos modelos de IA já estão praticamente concluídas, segundo pessoas familiarizadas com as discussões em conversa com o The New York Times.
Exclusão de modelos abertos gera críticas
A decisão de deixar de fora os modelos de código aberto chamou a atenção de especialistas. Esses sistemas disponibilizam seu código para que desenvolvedores possam baixá-lo, modificá-lo e executá-lo livremente. Empresas, como Nvidia, Meta e Google, oferecem versões desse tipo de tecnologia.
O tema ganhou importância após o avanço de modelos abertos desenvolvidos por empresas chinesas, como Alibaba, DeepSeek e Moonshot AI, que recentemente passaram a apresentar desempenho próximo ao dos principais modelos estadunidenses.
OpenAI e Anthropic devem ser duas das empresas de IA que a Casa Branca vai convocar – Imagem: Rokas Tenys/Shutterstock
Apesar da preocupação com a rápida evolução dessas ferramentas, autoridades estadunidenses reconhecem que será difícil submetê-las às revisões, já que empresas chinesas dificilmente aceitariam participar voluntariamente do processo conduzido pelos Estados Unidos.
Para Lindsay Gorman, ex-conselheira de tecnologia do governo Joe Biden, o novo modelo deixa questões importantes sem resposta. “Não acho que essa estrutura enfrente seriamente a pergunta sobre quais deveriam ser os limites para a inteligência artificial avançada e se essas barreiras deveriam se tornar mais rígidas à medida que a tecnologia evolui”, afirmou.
O novo marco regulatório surge poucos dias após a divulgação de novos incidentes envolvendo modelos de inteligência artificial.
Nesta semana, o Instituto de Segurança em IA do Reino Unido (AI Security Institute) informou que modelos da OpenAI e da Anthropic realizaram ações potencialmente prejudiciais durante avaliações de segurança, incluindo tentativas de inserir código malicioso em um projeto de software de código aberto e ataques contra organizações reais.
A OpenAI também revelou que um de seus modelos explorou uma falha de configuração durante outro teste para acessar a internet e explorar um site sem autorização.
Os episódios reforçaram as preocupações do governo estadunidense sobre os riscos associados aos sistemas mais avançados de IA e aumentaram a pressão para a criação de mecanismos de supervisão.
Detalhes permanecerão em sigilo
Apesar de formalizar um processo de revisão para modelos avançados, a Casa Branca decidiu manter em sigilo diversos aspectos da iniciativa.
Segundo pessoas familiarizadas com o assunto ouvidas pelo Times, os detalhes do framework que regerá a revisão dos modelos de IA não serão divulgados publicamente. Também permanecerá em sigilo a lista de instituições consideradas “confiáveis” que terão acesso antecipado aos modelos avançados juntamente com o governo.
A decisão foi criticada por especialistas em governança de IA. “Um conjunto de regras só consegue manter as empresas de IA sob controle se pessoas de fora dessas empresas souberem quais são essas regras”, afirmou Brad Carson, presidente da organização Americans for Responsible Innovation, ao Times. “Manter essa estrutura em segredo reduz a transparência e enfraquece a responsabilização pública.”
Disputa com a China influencia estratégia
A definição das novas diretrizes também ocorre em meio à crescente competição entre Estados Unidos e China pelo domínio da IA.
Trump tem defendido que a regulamentação não pode impedir o avanço das empresas estadunidenses. “Na China praticamente não há controles. Eles têm muito mais liberdade. Precisamos ter cuidado para não restringir nossas empresas a ponto de ficarmos atrás da China”, afirmou o presidente na semana passada.
Ao mesmo tempo, integrantes da administração têm discutido possíveis restrições a algumas empresas chinesas, sob a alegação de que elas teriam utilizado avanços desenvolvidos por companhias estadunidenses para treinar seus próprios modelos de forma considerada desleal.
O diretor-presidente da OpenAI, Sam Altman, reuniu-se nesta quarta-feira (29) com senadores dos Estados Unidos para discutir os próximos modelos de inteligência artificial (IA) da empresa. Os encontros acontecem poucos dias após a OpenAI revelar que um de seus agentes de IA escapou de um ambiente de contenção durante um teste de segurança e realizou um ataque cibernético.
O episódio também levou o presidente dos Estados Unidos, Donald Trump, a afirmar que seu governo avalia a adoção de “controles” para a IA, embora tenha ressaltado que não pretende limitar o desenvolvimento da tecnologia pelas empresas do setor.
Trump diz avaliar controles para IA
Questionado por jornalistas no Salão Oval sobre o incidente envolvendo o agente de IA da OpenAI, Trump afirmou que sua administração estuda a possibilidade de adotar mecanismos de controle para a tecnologia. “Estamos analisando controles”, declarou o presidente.
Ao mesmo tempo, Trump afirmou que não pretende impor restrições que impeçam as empresas de tecnologia de continuar desenvolvendo novos produtos de IA.
Altman se reúne com senadores
Durante sua passagem por Washington, Altman participou de reuniões com os senadores Bernie Moreno e Jon Husted, segundo assessores dos parlamentares.
O executivo também foi visto entrando no gabinete do senador Raphael Warnock e ainda deve se reunir com o senador Mark Warner, principal democrata do Comitê de Inteligência do Senado, de acordo com um porta-voz do parlamentar.
Trump quer controlar a IA após ela sair do controle da OpenAI – Imagem: Rawpixel.com/Shutterstock
Questionado sobre o encontro com os legisladores, Altman confirmou que o incidente envolvendo o agente de IA foi discutido. “Tivemos várias reuniões sobre o que aconteceu”, afirmou. Segundo o executivo, porém, o episódio não foi o principal tema das conversas realizadas nesta quarta.
As reuniões em Washington acontecem dias depois de a OpenAI divulgar que um de seus agentes de IA conseguiu escapar de um ambiente de contenção durante um teste de segurança.
De acordo com a empresa, o sistema iniciou um ataque cibernético que comprometeu a infraestrutura da Hugging Face, plataforma amplamente utilizada por desenvolvedores para armazenar código e colaborar na criação de modelos de IA.
A Reutersrevelou ainda que o agente também invadiu os sistemas de um cliente da Modal Labs, empresa de tecnologia sediada em Nova York.
Caso reforça debate sobre segurança
O episódio aumentou as preocupações de especialistas sobre os riscos associados ao avanço das capacidades da IA, especialmente na área de segurança cibernética.
O caso também evidenciou que mesmo as principais desenvolvedoras de IA podem enfrentar vulnerabilidades capazes de ser exploradas por seus próprios modelos, alimentando o debate sobre mecanismos de segurança e supervisão à medida que esses sistemas se tornam mais avançados.
