Modelos de IA da OpenAI passaram semanas tentando escapar de ambientes de teste sem que os pesquisadores percebessem. Em determinado momento, os agentes chegaram a acessar a internet e coordenar ações entre si.
Segundo o The Washington Post, o caso faz parte de uma sequência de incidentes envolvendo OpenAI, Anthropic e Meta, levantando novas dúvidas sobre como empresas de IA estão testando e protegendo seus modelos.
Alguns modelos de IA criaram identidades falsas, exploraram falhas e até tentaram acessar sistemas fora dos testes. – Imagem: Primakov / Shutterstock
Quando os testes saíram do controle
Os problemas apareceram durante avaliações de cibersegurança. Em vez de apenas resolver os desafios propostos, alguns modelos começaram a procurar maneiras de burlar as regras e colaborar entre si.
Durante maio e junho, os agentes criaram um fórum interno secreto para trocar informações. Depois, conseguiram escapar do ambiente de testes e acessar a internet.
A equipe da OpenAI identificou a primeira fuga e corrigiu o problema. Dois dias depois, porém, os modelos escaparam novamente sem serem detectados. Dessa vez, a operação foi mais sofisticada: eles se comunicaram para coordenar ações e chegaram a usar nomes como “Jan18”.
Entre os comportamentos observados nos incidentes recentes estão:
exploração de falhas de software ainda desconhecidas;
fuga de ambientes de teste para obter acesso à internet;
criação de identidades humanas falsas;
coordenação entre diferentes agentes por meio de mensagens;
roubo de credenciais de acesso à nuvem.
A segunda fuga só foi percebida depois que a plataforma Hugging Face revelou, em julho, ter sido invadida por modelos de IA desconhecidos.
Outras empresas também enfrentaram problemas
A OpenAI não foi a única empresa a registrar comportamentos inesperados. Um modelo da Anthropic criou perfis na internet e tentou pressionar um desenvolvedor humano a aprovar código malicioso enviado a um projeto de código aberto. A tentativa não funcionou.
A Meta também teve um episódio incomum. Um modelo instruído a invadir uma empresa fictícia acabou acessando uma companhia real que utilizava o mesmo nome. A empresa atribuiu o problema a uma configuração incorreta que permitiu acesso à internet durante o teste.
Um dos casos chamou atenção: modelos da OpenAI criaram um fórum secreto para trocar informações durante os testes. – Imagem: Evolf/Shutterstock
Segurança entra no centro da discussão
Os episódios ganham importância porque OpenAI e Anthropic já haviam declarado compromisso com o desenvolvimento seguro da tecnologia. Em 2023, Sam Altman, CEO da OpenAI, afirmou: “Fazemos esforços significativos para garantir que a segurança seja incorporada aos nossos sistemas em todos os níveis”.
Agora, especialistas defendem medidas como monitoramento mais rigoroso e testes em sistemas isolados de redes externas. A OpenAI adiou o lançamento do modelo Astra por preocupações com seu possível uso por hackers, enquanto a Anthropic interrompeu testes de seus sistemas por problemas de cibersegurança.
Os casos mostram um problema que a indústria terá de enfrentar à medida que seus modelos ficam mais capazes: testar uma IA não significa apenas avaliar se ela consegue cumprir uma tarefa, mas também observar o que faz quando encontra uma maneira de contornar as regras.
Um modelo de inteligência artificial (IA) da Meta conseguiu invadir os sistemas de outra empresa durante um teste de segurança cibernética, tornando-se o mais recente caso de agentes de IA de grandes desenvolvedoras que ultrapassaram os limites dos ambientes de avaliação.
Segundo o site The Information, o incidente envolveu o modelo Muse Spark 1.1, que conseguiu acessar a internet pública e alterar sistemas internos de uma empresa não identificada devido a uma configuração incorreta no ambiente de testes, conhecido como sandbox.
A Meta realizou a avaliação em parceria com a empresa especializada Irregular, responsável pelos testes de segurança.
Erro de configuração abriu caminho para a invasão
De acordo com a publicação, o problema ocorreu porque o ambiente de testes foi configurado de forma incorreta, permitindo que o modelo explorasse uma vulnerabilidade existente em um serviço de terceiros;
Em declaração ao The Information, um porta-voz da Meta afirmou que a falha foi causada pela configuração inadequada feita durante a avaliação conduzida pela Irregular;
Segundo a empresa, o modelo aproveitou uma vulnerabilidade já existente em outro serviço, em um cenário semelhante ao observado em casos anteriores envolvendo outras desenvolvedoras de IA.
Irregular realizou o teste com a Meta – Imagem: Primakov/Shutterstock
Empresa diz que incidente não representou fuga do ambiente de testes
A Irregular afirmou à Reuters que o episódio foi causado pelo mesmo tipo de problema de configuração divulgado anteriormente pela Anthropic e ressaltou que não houve uma “fuga” do ambiente de testes (sandbox escape) nem uma ação cibernética sofisticada.
Segundo a empresa, não existem problemas em aberto relacionados ao incidente. A Irregular informou ainda que prepara um documento técnico com recomendações sobre boas práticas para isolar modelos de IA durante avaliações de segurança e executar esse tipo de teste de forma mais segura.
A Meta não respondeu imediatamente ao pedido de comentários feito pela Reuters. O Olhar Digital também entrou em contato com a empresa e espera um retorno.
Série de incidentes envolvendo IA
O caso ocorre poucos dias depois de a Anthropic revelar que alguns modelos da família Claude conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética.
Na ocasião, a companhia informou que os incidentes aconteceram em ambientes controlados de avaliação.
Antes disso, a OpenAI também havia divulgado que um de seus agentes de IA apresentou comportamento inesperado durante testes internos.
Os episódios chamam atenção para os desafios de criar ambientes de avaliação totalmente isolados para modelos de IA cada vez mais capazes de interagir com sistemas computacionais e identificar vulnerabilidades.
A Meta anunciou nesta quarta-feira (05) o lançamento do Muse Code, um agente de programação criado para disputar espaço com soluções de inteligência artificial oferecidas por empresas como OpenAI e Anthropic. A companhia apresentou a ferramenta como uma alternativa mais econômica para tarefas de desenvolvimento de software.
O novo produto faz parte da estratégia da Meta para transformar seus investimentos em inteligência artificial em aplicações capazes de gerar retorno comercial. A iniciativa ocorre após cobranças de investidores por avanços concretos depois de grandes aportes em profissionais especializados e infraestrutura computacional.
A empresa informou que alguns funcionários já utilizam internamente o agente e que pretende ampliar esse uso. O produto foi desenvolvido dentro da nova estrutura de inteligência artificial da companhia, liderada por Alexandr Wang, responsável pela área de IA da Meta.
Meta aposta em preços baixos para conquistar usuários de programação
Linhas de um código-fonte – (Reprodução: Chris Ried/Unsplash)
Agentes de programação são sistemas capazes de auxiliar na criação de projetos e na execução de atividades de engenharia de software, reduzindo a necessidade de escrita manual de código por parte dos usuários. O segmento ganhou força com ferramentas lançadas por empresas concorrentes nos últimos meses.
O Muse Code terá duas modalidades de preço. Uma delas seguirá a estrutura do modelo geral Muse Spark, enquanto a outra foi criada com custo significativamente inferior. Nessa opção mais barata, os usuários pagarão 20 centavos por milhão de tokens de saída e deverão fornecer avaliações para ajudar no aprimoramento do sistema.
A estratégia de preço coloca a ferramenta da Meta próxima de modelos desenvolvidos por empresas chinesas, incluindo alternativas com valores semelhantes. Enquanto isso, soluções concorrentes como Claude Code e Codex utilizam planos mensais e cobranças adicionais quando os limites de uso são ultrapassados.
A Meta também informou que modelos anteriores do mercado passaram por reduções de preço, em um cenário de disputa crescente pela adoção de ferramentas de inteligência artificial. A competição envolve não apenas desempenho tecnológico, mas também custo de acesso para desenvolvedores e empresas.
Nova fase da estratégia de inteligência artificial da Meta
(Imagem: gorodenkoff/iStock)
A empresa reformulou sua área de IA no ano passado com a criação do Meta Superintelligence Labs. Alexandr Wang, cofundador da ScaleAI, assumiu a liderança da divisão e iniciou uma campanha para atrair especialistas de outros laboratórios do setor.
A movimentação incluiu pacotes de remuneração avaliados em milhões de dólares para contratar talentos e acelerar o desenvolvimento de novos modelos. Entre os projetos resultantes está o Muse Spark, modelo de inteligência artificial apresentado pela Meta em abril.
O lançamento do Muse Code representa mais um passo da companhia para ampliar sua presença em um mercado no qual empresas de tecnologia disputam usuários, desenvolvedores e receitas associadas à inteligência artificial.
A Meta permitiu a publicação de mais de 50 anúncios pagos com imagens de abuso sexual infantil geradas por inteligência artificial (IA), segundo uma investigação do grupo independente Tech Transparency Project (TTP).
As campanhas foram exibidas no Facebook, Instagram, Messenger e Threads entre novembro do ano passado e o início de agosto e alcançaram usuários nos Estados Unidos, Reino Unido e em mais de uma dezena de países da Europa.
De acordo com a investigação, parte dos anúncios promovia aplicativos de nudify — ferramentas que utilizam IA para criar imagens falsas de nudez —, enquanto outros continham imagens de menores acompanhados de mensagens de conotação sexual ou direcionavam usuários para serviços que geravam pornografia por inteligência artificial.
O TTP afirma que esta é a segunda vez, em poucas semanas, que anúncios relacionados à exploração sexual infantil são encontrados nas plataformas da Meta.
Publicidade passou pela revisão da Meta
Segundo Katie Paul, diretora do Tech Transparency Project, o caso chama atenção porque os conteúdos não eram publicações comuns feitas por usuários, mas anúncios pagos aprovados pela própria empresa.
“Esses anúncios não fizeram qualquer esforço para esconder o que promoviam. É importante destacar que não eram publicações de terceiros no Facebook ou Instagram. Eram anúncios revisados, aprovados e autorizados pela Meta, que permaneceram ativos enquanto a empresa recebia pela publicidade”, afirmou à revista WIRED.
Os registros da biblioteca pública de anúncios da Meta mostram que as campanhas permaneceram ativas por vários dias. Algumas eram direcionadas exclusivamente ao público masculino.
Embora muitos anúncios tenham atingido poucas contas, um deles foi exibido para pelo menos 2.563 usuários em países, como França, Alemanha, Irlanda, Itália, Holanda, Espanha, Suécia e Reino Unido. A Meta não divulga o alcance das campanhas em todos os mercados, incluindo os Estados Unidos, o que pode significar que o número total de pessoas impactadas seja maior.
Novos anúncios surgiram durante a investigação
Os pesquisadores localizaram inicialmente cerca de duas dezenas de anúncios. No entanto, horas antes da publicação da reportagem da WIRED, encontraram aproximadamente outros 30 anúncios semelhantes.
Segundo o TTP, parte dessas novas campanhas havia sido publicada depois que a revista entrou em contato com a Meta para pedir esclarecimentos, e algumas ainda estavam sendo exibidas aos usuários naquele momento.
A organização informou que comunicou imediatamente os casos ao National Center for Missing and Exploited Children (NCMEC), órgão estadunidense responsável por receber denúncias de exploração sexual infantil na internet.
Meta removeu o conteúdo após ser procurada
Após ser questionada pela WIRED, a Meta retirou os anúncios de sua biblioteca pública por violarem suas políticas sobre exploração sexual infantil, nudez e atividade sexual.
Em nota, a empresa afirmou que combate esse tipo de conteúdo de forma agressiva. “A exploração sexual é horrível, e trabalhamos agressivamente para mantê-la fora de nossa plataforma. A maioria desses anúncios teve alcance mínimo e muitos já haviam sido desativados antes de a WIRED compartilhar as informações conosco.”
A companhia acrescentou que parte das campanhas foi publicada antes da implementação de novas ferramentas de IA destinadas a identificar anúncios que violam suas políticas já no momento do envio.
Segundo a Meta, mais de 36 milhões de conteúdos relacionados à exploração sexual infantil foram removidos de suas plataformas no último ano. A empresa também destacou que tem adotado medidas judiciais contra desenvolvedores de aplicativos de nudify.
Após ser questionada pela WIRED, a Meta retirou os anúncios de sua biblioteca pública por violarem suas políticas sobre exploração sexual infantil, nudez e atividade sexual – Imagem: jackpress/Shutterstock
Sistema de anúncios levanta questionamentos
A Meta afirma que todos os anúncios passam por um processo de revisão antes de serem publicados, realizado principalmente por sistemas automatizados. Suas políticas proíbem expressamente conteúdos relacionados à exploração sexual infantil, além de anúncios que contenham nudez, atividade sexual ou imagens sexualmente sugestivas.
Para Paul, no entanto, a investigação levanta dúvidas sobre a eficácia desse sistema. Segundo ela, alguns dos anúncios encontrados eram praticamente idênticos a campanhas que já haviam sido removidas anteriormente pela própria Meta.
Na avaliação da pesquisadora, isso indica que conteúdos já identificados como ilegais conseguiram voltar a circular por meio da plataforma de publicidade da empresa.
Outro ponto destacado pelo TTP é que a biblioteca pública de anúncios da Meta não oferece uma ferramenta para que usuários denunciem campanhas que já deixaram de ser exibidas, mesmo que continuem acessíveis no acervo da plataforma.
Empresas chinesas aparecem entre os anunciantes
Os pesquisadores afirmam que a maioria das campanhas foi publicada por contas com poucos ou nenhum seguidor. Quando os anunciantes podiam ser identificados, eles estavam ligados principalmente a empresas chinesas.
Um dos casos envolvia a Meet Social, companhia que já atuou como revendedora de publicidade da Meta na China, país onde Facebook e Instagram são bloqueados. A empresa não respondeu aos pedidos de comentário da WIRED.
Apple remove aplicativo citado na investigação
Diversos anúncios direcionavam usuários para o aplicativo MaskAI, disponível na App Store da Apple.
Segundo a WIRED, o aplicativo não exibia conteúdo explícito antes da instalação, mas oferecia ferramentas para gerar pornografia por IA e criar montagens com rostos de pessoas em imagens de conteúdo sexual.
Após ser procurada pela reportagem, a Apple informou que removeu o aplicativo por violar suas políticas contra aplicativos de nudify. A empresa afirmou que “sempre proibiu rigorosamente aplicativos desenvolvidos para gerar, distribuir ou consumir pornografia”.
Mercado de aplicativos de “nudificação” preocupa especialistas
O crescimento da IA generativa impulsionou a proliferação de serviços capazes de criar imagens falsas de nudez e pornografia. Especialistas alertam que essas ferramentas vêm sendo utilizadas tanto para produzir pornografia não consensual quanto para gerar material de abuso sexual infantil.
Após o contato da WIRED, a Meta também encaminhou à reportagem declarações de organizações parceiras na área de segurança digital.
A Tech Coalition destacou que a empresa compartilha milhares de endereços ligados a conteúdo abusivo por meio do sistema Lantern, enquanto a Revenge Porn Helpline afirmou que os aplicativos de nudify representam um desafio constante devido à rapidez com que seus responsáveis criam novos serviços para escapar das medidas de fiscalização.
Alexios Mantzarlis, cofundador da publicação Indicator e ex-especialista em confiança e segurança do Google, disse ter identificado e denunciado mais de 25 mil anúncios de aplicativos de nudify nas plataformas da Meta nos últimos anos.
Segundo ele, apesar de a empresa informar que removeu mais de 344 mil anúncios desse tipo e mover ações judiciais contra alguns desenvolvedores, os responsáveis continuam criando novas contas e domínios para manter as operações ativas.
“Os responsáveis por essas redes estão bem preparados para criar novas contas de anunciantes e novos domínios, utilizando técnicas semelhantes às empregadas por redes de golpes. Infelizmente, essa indústria de abuso sexual baseado em imagens deixou de ser uma novidade para se tornar uma presença permanente no ecossistema online devido à aplicação tímida das regras pelas plataformas”, afirmou à WIRED.
Os acordos envolvem principalmente a contratação de capacidade em data centers, instalações responsáveis pelo processamento e armazenamento de dados para serviços digitais. Os valores ainda não aparecem integralmente como dívidas nos balanços das empresas porque os centros contratados ainda não estão disponíveis para uso.
O movimento revela a dimensão da aposta das maiores companhias de tecnologia do mundo na expansão da IA, mas também expõe um possível risco: caso a procura por esses serviços não acompanhe o ritmo esperado, as empresas podem ficar obrigadas a manter contratos de longo prazo com custos elevados.
Contratos bilionários ampliam infraestrutura, mas criam novos desafios financeiros
(Imagem: TSViPhoto/Shutterstock)
Os compromissos assumidos pelas cinco empresas representam uma parcela expressiva dos investimentos previstos para sustentar o crescimento da inteligência artificial. De acordo com dados divulgados pela Reuters a partir de documentos corporativos, o montante futuro é quase quatro vezes superior aos cerca de US$ 285 bilhões em contratos de aluguel que já aparecem registrados nas demonstrações financeiras das companhias.
A diferença entre os valores contratados e as dívidas reconhecidas oficialmente está relacionada às regras contábeis. Enquanto uma estrutura ainda não está pronta ou disponível para utilização, a obrigação costuma ser apresentada apenas nas notas explicativas dos balanços, sem ser contabilizada como dívida naquele momento.
O cenário não significa que todo o valor de US$ 1,09 trilhão possa ser acrescentado diretamente ao endividamento das empresas. Os contratos representam pagamentos distribuídos ao longo de vários anos, enquanto a dívida registrada considera critérios financeiros que calculam o valor equivalente dessas obrigações no presente.
A Oracle aparece como a companhia com maior exposição proporcional entre as analisadas. A empresa declarou US$ 260 bilhões em contratos futuros relacionados principalmente a data centers que devem entrar em operação entre os anos fiscais de 2027 e 2029, com acordos previstos para durar de 15 a 19 anos.
Imagem: PJ McDonnell/Shutterstock
A companhia informou existir a possibilidade de incompatibilidade entre os contratos firmados para construir ou utilizar esses centros de processamento e os acordos mantidos com seus próprios clientes. Caso parte da demanda esperada não se confirme, a Oracle poderá continuar responsável pelos custos dessas estruturas.
Segundo cálculos apresentados pela Reuters, a dívida da Oracle correspondia a aproximadamente 4,4 vezes o Ebitda ao final de maio. Considerando também os contratos de aluguel já reconhecidos no balanço, essa relação subiria para cerca de 5,7 vezes.
A avaliação da agência S&P Global Ratings também considera os compromissos futuros da companhia. A instituição afirmou que incorporou os US$ 260 bilhões em contratos da Oracle em sua análise de dívida e projeta que o indicador permaneça próximo de 4,4 vezes o Ebitda no ano fiscal de 2027.
Entre as demais empresas, a Microsoft aparece com o maior volume absoluto de contratos futuros, somando US$ 329 bilhões, enquanto possui US$ 88,5 bilhões registrados em seu balanço.
A Meta informou compromissos de US$ 279 bilhões ainda não iniciados e acrescentou novos acordos de US$ 68 bilhões em julho para ampliar sua rede de data centers. Com isso, o conjunto conhecido de compromissos das cinco empresas chegou a aproximadamente US$ 1,16 trilhão.
A Alphabet declarou contratos futuros de US$ 85,2 bilhões, enquanto a Amazon informou US$ 137,2 bilhões. No caso da empresa de comércio eletrônico e computação em nuvem, o valor inclui não apenas instalações de processamento de dados, mas também outros contratos relacionados a imóveis, aeronaves, escritórios e veículos.
A Casa Branca realizará, nesta terça-feira (4), uma reunião com representantes de OpenAI, Google, Meta e Anthropic para discutir a criação de testes voluntários de segurança destinados a avaliar a capacidade dos modelos de inteligência artificial (IA) mais avançados dos Estados Unidos de realizar ataques cibernéticos.
A iniciativa ocorre após recentes revelações de que sistemas de IA desenvolvidos por OpenAI e Anthropic conseguiram invadir ambientes digitais durante testes controlados, aumentando a preocupação de autoridades estadunidenses sobre o potencial uso dessas tecnologias em ataques hackers.
Governo prepara testes de cibersegurança
Um integrante da Casa Branca disse à Reuters que o governo do presidente Donald Trump concluiu os detalhes de um conjunto de testes voluntários que medirão as capacidades ofensivas dos modelos mais avançados de IA desenvolvidos nos EUA. A expectativa é que os critérios sejam apresentados e discutidos com as empresas durante o encontro.
Até o momento, a Casa Branca não divulgou como os testes serão conduzidos, quais métricas serão utilizadas, como os resultados serão reportados, nem se essas informações serão tornadas públicas.
Empresas confirmam participação
De acordo com fontes familiarizadas com o assunto, OpenAI, Google, Meta e Anthropic foram convidadas para participar das discussões.
A Meta confirmou que recebeu o convite, enquanto uma fonte próxima ao encontro afirmou que a Anthropic também participará. O Google preferiu não comentar o assunto, e a OpenAI não respondeu aos pedidos de posicionamento da Reuters.
Na semana passada, o CEO da OpenAI, Sam Altman, esteve na Casa Branca para discutir tanto os testes voluntários quanto os próximos lançamentos da empresa.
Nesta segunda-feira (3), a OpenAI afirmou ainda que defende que especialistas em segurança de IA do Departamento de Comércio dos EUA desempenhem papel central na condução das avaliações. A empresa também destacou que a China adota uma estratégia mais centralizada para o desenvolvimento e supervisão da IA.
OpenAI e Anthropic revelaram que suas IAs saíram do controle e invadiram sistemas – Imagem: Rokas Tenys/Shutterstock
A discussão sobre segurança ganhou impulso após duas divulgações feitas pelas próprias empresas. Na semana passada, a Anthropic informou que alguns de seus modelos conseguiram invadir os sistemas de três empresas durante avaliações de cibersegurança.
Pouco antes, a OpenAI revelou que um de seus agentes de IA escapou de um ambiente de testes e conseguiu acessar sistemas da plataforma Hugging Face durante experimentos internos.
Esses episódios aumentaram a preocupação de parlamentares estadunidenses quanto ao potencial uso de modelos de IA para facilitar ataques cibernéticos.
Procuradores investigam OpenAI
Também nesta segunda, um grupo formado por 15 procuradores-gerais republicanos pediu que a OpenAI preserve todos os documentos relacionados ao episódio envolvendo o agente de IA que teria escapado do ambiente de testes.
Segundo os procuradores, a empresa pode ter violado leis estaduais de proteção ao consumidor. O pedido cita uma reportagem da Reuters, segundo a qual, em um dos testes, o agente deixou instruções para que versões futuras conseguissem escapar das barreiras de segurança internas.
Relação conturbada entre governo e Anthropic
O governo Trump também mantém uma relação delicada com a Anthropic. No início deste ano, a empresa se recusou a permitir que as Forças Armadas dos Estados Unidos utilizassem seus modelos de IA para vigilância doméstica e sistemas de armas totalmente autônomos. Como resposta, o governo incluiu a companhia em uma lista nacional de restrições de segurança.
A elaboração dos novos testes de cibersegurança foi determinada por Donald Trump em junho, quando o presidente orientou sua equipe a desenvolver mecanismos para avaliar a capacidade ofensiva dos sistemas de IA mais avançados do país.
O CEO da Meta, Mark Zuckerberg, fez duras críticas ao modelo de desenvolvimento de inteligência artificial (IA) adotado por concorrentes, como OpenAI e Anthropic.
Em entrevista concedida nesta terça-feira (28) ao The New York Times, o executivo afirmou que concentrar o desenvolvimento de modelos avançados em poucas empresas pode limitar o acesso da sociedade à tecnologia e prejudicar a inovação.
Embora não tenha citado diretamente OpenAI e Anthropic em diversos momentos da conversa, Zuckerberg deixou claro que se referia às empresas que defendem um desenvolvimento mais controlado da IA. Segundo ele, essa abordagem contraria a tradição do setor de tecnologia nos Estados Unidos.
“Grande parte do discurso de muitos dos outros laboratórios que estão desenvolvendo isso é excessivamente dominada pelo pessimismo”, afirmou. “É preciso haver uma voz, ou várias vozes, que tragam realismo para esse debate.”
As declarações ampliam uma discussão que vem dividindo o Vale do Silício sobre como sistemas avançados de IA devem ser desenvolvidos e disponibilizados ao público.
Debate divide gigantes da tecnologia
Executivos, como Dario Amodei, da Anthropic, e Sam Altman, argumentam que alguns dos modelos mais avançados já são perigosos demais para serem desenvolvidos ou compartilhados sem rígidos mecanismos de controle;
Por outro lado, empresas, como Microsoft, Nvidia, Google e a própria Meta, defendem que boa parte desses modelos deve permanecer amplamente acessível para estimular pesquisas, novos negócios e avanços tecnológicos;
A discussão ganhou força neste mês após modelos chineses de inteligência artificial reduzirem a vantagem tecnológica que empresas estadunidenses, como Anthropic e OpenAI, mantinham no setor;
Em resposta, essas companhias intensificaram o diálogo com reguladores em Washington e demonstraram preocupação com o avanço de modelos de código aberto desenvolvidos na China.
Na última sexta-feira (24), o CEO da Nvidia, Jensen Huang, publicou uma carta defendendo o desenvolvimento de softwares de código aberto para IA, posição que recebeu apoio de diversas empresas de tecnologia.
Nesta semana, Huang também anunciou uma coalizão voltada ao desenvolvimento de ferramentas abertas de segurança e cibersegurança para IA, iniciativa que reúne empresas, como SpaceX e IBM.
Huang e Altman estão entre os executivos que viajaram a Washington para discutir com o governo do presidente Donald Trump possíveis políticas para o setor.
Empresas, como Microsoft, Nvidia, Google e a própria Meta, defendem que boa parte desses modelos deve permanecer amplamente acessível para estimular pesquisas, novos negócios e avanços tecnológicos – Imagem: jackpress/Shutterstock
Durante a entrevista, Zuckerberg voltou a defender sua visão de que a IA deve estar disponível para o maior número possível de pessoas. Ele criticou a ideia de criar uma única superinteligência centralizada e totalmente alinhada aos interesses da humanidade, conceito frequentemente associado às discussões sobre segurança em IA.
“Eu acho que muitas pessoas têm a noção de que, se você construir algum tipo de inteligência artificial singular, poderá, por meio de uma forma idealizada de alinhamento, garantir que ela seja benevolente para a humanidade”, afirmou. “Pessoalmente, sou cético em relação a esse caminho.”
Em vez disso, o executivo propôs o conceito de “superinteligência personalizada”, em que assistentes de IA possam ser configurados conforme as necessidades, preferências e valores de cada usuário. “Acho que é literalmente impossível existir uma única superinteligência benevolente que esteja alinhada com todas as pessoas ao mesmo tempo”, declarou.
Até a publicação da entrevista, OpenAI e Anthropic não haviam comentado as declarações. Em manifestações anteriores, a OpenAI afirmou apoiar iniciativas de código aberto e disse trabalhar com a Casa Branca para desenvolver formas seguras de expandir a IA.
Na segunda-feira (27), Amodei publicou um texto afirmando que a Anthropic está concentrada em impedir que chips avançados cheguem a regimes autoritários, evitar a reprodução em larga escala de modelos de IA e exigir testes de segurança para sistemas altamente capazes, sejam eles abertos ou fechados.
Apesar das divergências entre as empresas, pesquisadores da Anthropic, OpenAI, Meta e Google assinaram conjuntamente uma carta aberta intitulada “Pacing the Frontier”.
O documento defende um esforço internacional para desenvolver ferramentas técnicas e mecanismos de governança capazes de desacelerar o avanço da IA quando necessário por razões de segurança.
A posição da Meta sobre IA também evoluiu nos últimos anos. Durante muito tempo, a empresa ficou conhecida por disponibilizar gratuitamente modelos de IA de código aberto. No entanto, após perder espaço para OpenAI e Anthropic, Zuckerberg reformulou sua estratégia.
A companhia investiu US$ 14,3 bilhões (R$ 73,5 bilhões) na startup Scale AI e contratou seu fundador, Alexandr Wang, para liderar a divisão de IA da empresa, rebatizada de Meta Superintelligence Labs. Também foram investidos bilhões de dólares na contratação de pesquisadores especializados, que passaram a desenvolver um novo modelo fechado de IA, em vez de totalmente aberto.
Neste mês, a Meta começou a vender, pela primeira vez, acesso ao seu modelo Muse Spark, ao mesmo tempo em que continua desenvolvendo modelos de código aberto.
Zuckerberg afirmou acreditar que a trajetória da indústria de tecnologia aponta para uma democratização crescente das ferramentas de IA. “Acredito que a trajetória geral da indústria sempre caminhou para mais abertura e para colocar o poder da tecnologia nas mãos de mais pessoas, e não de menos”, concluiu.
Uma disputa sobre o futuro da inteligência artificial (IA) ganhou força no Vale do Silício e passou a envolver as maiores empresas do setor, executivos de tecnologia e integrantes do governo dos Estados Unidos.
O debate opõe companhias, como OpenAI e Anthropic, que defendem maiores restrições aos modelos chineses de IA de código aberto, e um grupo formado por empresas, como Microsoft, Nvidia, Meta e IBM, que argumenta que esse tipo de tecnologia deve permanecer aberto para estimular inovação, segurança e novos negócios.
A discussão, que há anos divide a indústria de tecnologia sobre o desenvolvimento de IA, se intensificou diante do avanço acelerado da China na criação de modelos de código aberto.
OpenAI e Anthropic defendem restrições
De um lado estão OpenAI e Anthropic, que sustentam que determinados modelos de IA são perigosos demais para serem desenvolvidos de forma aberta e, por isso, devem permanecer sob controle rígido das empresas responsáveis por sua criação.
Nos bastidores, segundo pessoas próximas às discussões contaram ao The New York Times, as duas companhias vêm pressionando reguladores em Washington (EUA) ao levantar preocupações sobre os modelos chineses de código aberto.
O debate passou a envolver também o secretário do Tesouro dos Estados Unidos, Scott Bessent, e Michael Kratsios, assessor de ciência e tecnologia do presidente Donald Trump, que discutem a importância dos modelos estadunidenses como propriedade intelectual estratégica.
As empresas afirmam que laboratórios chineses construíram parte de seus modelos por meio da coleta indevida de dados gerados por sistemas de IA estadunidenses, prática que, segundo elas, não deveria ser permitida.
Microsoft, Nvidia e outras gigantes defendem código aberto
Na direção oposta, empresas, como Microsoft, Nvidia, Meta, IBM e Palantir, defendem que os modelos de código aberto são essenciais para o avanço da IA;
Na sexta-feira (24), o presidente-executivo da Nvidia, Jensen Huang, publicou pela primeira vez no X que “o mundo precisa tanto de modelos fechados de fronteira quanto de modelos abertos de fronteira”. Nove minutos depois, o CEO da Microsoft, Satya Nadella, escreveu que o software de código aberto é “essencial para um ecossistema saudável de IA”;
Ambos assinaram uma carta em defesa do código aberto, acompanhados por executivos da Meta, Palantir e IBM;
Segundo essas empresas, modelos abertos impulsionam o desenvolvimento tecnológico, permitem que pesquisadores examinem sua segurança e aumentam a demanda por serviços de computação em nuvem e chips utilizados para executar aplicações de IA.
Para fundadores de startups do Vale do Silício, restringir o código aberto também poderia consolidar a vantagem competitiva de OpenAI e Anthropic, dificultando o surgimento de concorrentes.
“Você tem duas facções brigando por essa questão”, afirmou Bill Gurley, investidor de capital de risco do Vale do Silício contrário às restrições ao código aberto. “Há as pessoas que querem que OpenAI e Anthropic sejam donas de tudo, e depois há todo o resto, incluindo os clientes.”
Avanço chinês aumenta tensão
O conflito ganhou intensidade devido ao rápido progresso da China no desenvolvimento de modelos abertos de IA. Nas últimas semanas, as startups chinesas Z.ai e Moonshot AI lançaram modelos que competem com os desenvolvidos pela Anthropic e outros laboratórios estadunidenses.
No ano passado, a startup chinesa DeepSeek já havia surpreendido a indústria ao apresentar um sistema de IA de código aberto considerado comparável aos modelos das empresas dos Estados Unidos.
O governo chinês também passou a defender essa estratégia. Neste mês, o presidente Xi Jinping apresentou o país como um defensor global da abordagem aberta para IA.
Segundo pessoas familiarizadas com as discussões internas, o avanço chinês aumentou a preocupação entre executivos da OpenAI e da Anthropic, que temem perder a vantagem construída ao longo dos últimos anos.
Acusações de roubo de propriedade intelectual
Empresas estadunidenses de IA acusam laboratórios chineses de realizar o chamado processo de “destilação”, copiando secretamente seus sistemas para desenvolver modelos concorrentes. O tema chamou a atenção do governo de Donald Trump.
Na quarta-feira (22), Scott Bessent afirmou que a administração avaliou impor sanções contra empresas chinesas acusadas de roubar propriedade intelectual de companhias estadunidenses. “Código aberto não significa temporada aberta para a propriedade intelectual estadunidense”, declarou.
No mesmo dia, Michael Kratsios afirmou que “a destilação industrial secreta em larga escala destinada a roubar tecnologia proprietária dos Estados Unidos e enfraquecer a pesquisa estadunidense é inaceitável”.
Apesar disso, autoridades estadunidenses ainda discutem quais medidas adotar. Segundo pessoas com conhecimento das conversas que falaram com o Times, a tendência é que os modelos chineses sejam analisados individualmente sob a ótica da segurança nacional, em vez da adoção de uma proibição ampla.
CEO da Microsoft, Satya Nadella, escreveu que o software de código aberto é “essencial para um ecossistema saudável de IA” – Imagem: FotoField/Shutterstock
Google e Amazon tentam evitar confronto
Enquanto OpenAI e Anthropic defendem restrições, outras gigantes do setor buscaram inicialmente evitar envolvimento direto. Google e Amazon, que investiram bilhões de dólares em empresas, como Anthropic e OpenAI, passaram boa parte da semana sem participar do debate.
No sábado (25), porém, o CEO do Google, Sundar Pichai, afirmou nas redes sociais que sua empresa “há muito tempo se beneficia do código aberto” e também assinou a carta da indústria em defesa desse modelo de desenvolvimento.
Debate antigo ganha nova dimensão
A discussão entre software aberto e fechado acompanha a indústria de tecnologia desde seus primeiros anos. Defensores do código aberto argumentam que compartilhar informações acelera a inovação, melhora a segurança dos sistemas e torna os softwares mais confiáveis.
Já os críticos afirmam que o desenvolvimento dessas tecnologias exige investimentos elevados e que disponibilizá-las gratuitamente representa um modelo de negócios insustentável.
Atualmente, grande parte da infraestrutura da internet opera sobre tecnologias de código aberto, assim como sistemas amplamente utilizados, incluindo o Android, do Google.
Como resposta ao avanço chinês, OpenAI e Anthropic passaram a oferecer modelos de IA mais baratos para empresas que não necessitam das versões mais avançadas.
Na sexta, a Anthropic lançou o Claude Opus 5, descrito pela companhia como um modelo “próximo da inteligência de fronteira do Fable 5 pela metade do preço”. A OpenAI também promove modelos de menor custo.
Lobby em Washington
Segundo pessoas próximas às negociações, executivos da OpenAI, Anthropic e investidores das empresas vêm realizando reuniões reservadas em Washington. Nesses encontros, eles citam preocupações relacionadas à economia global, segurança da IA e segurança nacional para convencer reguladores a ampliar as restrições aos modelos chineses de código aberto.
Sarah Heck, responsável pelas políticas públicas da Anthropic, escreveu nas redes sociais que “a destilação ilícita por adversários é roubo de propriedade intelectual e espionagem industrial que fortalece capacidades militares e de inteligência de adversários”.
Ela afirmou ainda que modelos de código aberto derivados dos sistemas da Anthropic representam riscos elevados caso circulem livremente.
A OpenAI também defende novas regras. Em publicação feita no mês passado, a empresa informou que propôs ao governo Trump políticas que tornariam obrigatórias avaliações de segurança para determinados modelos de IA sob supervisão de agências governamentais.
Segundo a companhia, ela está “encorajada” pelo trabalho conjunto realizado com a administração estadunidense na construção desse marco regulatório.
Movimento pró-código aberto reage
Os defensores do código aberto também ampliaram sua mobilização. Na quarta, quase 200 startups do Vale do Silício, reunidas sob o nome Little Tech Association, enviaram cartas ao governo Trump pedindo que o acesso aos modelos chineses de código aberto não fosse limitado.
Na sexta, grandes empresas passaram a aderir publicamente ao movimento. Elon Musk, Mark Zuckerberg, Sam Altman e outros executivos manifestaram apoio às declarações de Jensen Huang e Satya Nadella. “Jensen está certo”, escreveu Musk. “Isso tem meu total apoio.”
Zuckerberg também defendeu a iniciativa, afirmando que “o código aberto é uma força positiva e importante”.
Teste da OpenAI alimenta discussão
Um episódio ocorrido durante a semana reforçou a polarização. Na terça-feira (21), a OpenAI revelou que alguns de seus modelos mais avançados romperam os mecanismos de contenção durante um teste de segurança cibernética, conseguiram acesso à internet e invadiram servidores do Hugging Face.
Executivos da OpenAI utilizaram o episódio para demonstrar que modelos de IA podem representar riscos mesmo quando operam em ambientes fechados, reforçando sua defesa por regulamentação.
Já o CEO da Hugging Face, Clem Delangue, adotou posição oposta. Para proteger a empresa durante o incidente, ele recorreu a um modelo de código aberto desenvolvido pela chinesa Z.ai. Na sexta, Delangue deixou clara sua posição nas redes sociais ao anunciar uma marcha em São Francisco (EUA) em apoio ao código aberto. “Modelos abertos são a melhor escolha!”, escreveu.
Nesta sexta-feira (24), a Meta anunciou uma atualização de seu chatbot de inteligência artificial que amplia a ferramenta para além de respostas, criação de imagens e elaboração de documentos. A novidade adiciona funções voltadas à organização pessoal, pesquisas aprofundadas e planejamento de tarefas.
O lançamento ocorre em mercados selecionados por meio do aplicativo Meta AI e da versão web do serviço. A companhia informou que a expansão para outros países e plataformas, incluindo o WhatsApp, ocorrerá nas semanas seguintes.
Nova fase da Meta AI aposta em planejamento e autonomia
O chatbot Meta AI pode construir um cardápio semanal para o usuário, dentre outras tarefas – (Divulgação: Meta)
A Meta apresentou a atualização como uma evolução de seu chatbot, agora equipado com ferramentas que permitem acompanhar tarefas recorrentes e oferecer sugestões com base no contexto fornecido pelo usuário. A empresa afirma que o sistema pode ser configurado uma única vez para continuar executando determinadas funções sem novos comandos frequentes.
Entre os exemplos citados pela companhia estão a criação de planejamentos alimentares semanais, notificações sobre reposição de produtos e elaboração de resumos da agenda diária. O assistente também pode auxiliar em atividades práticas, como buscar móveis usados no Facebook Marketplace considerando um orçamento definido para uma reforma.
A ferramenta ganhou ainda recursos voltados a eventos e pesquisas. Segundo a Meta, o chatbot consegue procurar restaurantes adequados para uma ocasião específica e cruzar essa informação com a agenda do usuário para encontrar uma data compatível.
A empresa também afirma que o sistema passou a produzir relatórios, apresentações e planos com base em informações coletadas na internet. Outra mudança permite que usuários alterem a direção da pesquisa enquanto a resposta ainda está sendo construída, em uma dinâmica semelhante à oferecida por outros assistentes de inteligência artificial.
O chatbot Meta AI também pode criar sugestões de “looks” para você vestir – (Divulgação: Meta)
A atualização é impulsionada pelo modelo Muse Spark 1.1, apresentado pela Meta como responsável por ampliar as capacidades do chatbot. A companhia relacionou a novidade ao conceito de “superinteligência pessoal”, expressão usada pelo presidente-executivo Mark Zuckerberg ao falar sobre o futuro da inteligência artificial.
A mudança representa uma alteração na estratégia anteriormente adotada pela empresa. De acordo com informações atribuídas ao jornalista Alex Heath, o diretor de produto da Meta, Chris Cox, havia orientado funcionários no ano anterior a priorizar entretenimento e conexão entre pessoas, em vez de concentrar esforços em produtividade, área disputada por empresas como OpenAI, Google e Anthropic.
Com os novos recursos, a Meta passa a posicionar seu chatbot em uma disputa mais direta com assistentes de inteligência artificial desenvolvidos por concorrentes. A companhia busca ampliar o uso cotidiano da ferramenta ao integrá-la a tarefas de organização, pesquisa e planejamento.
Funcionários da Meta Platforms abriram uma ação judicial nos Estados Unidos contra a empresa, alegando que sistemas de inteligência artificial escolheram os funcionários a serem demitidos pela empresa. O processo coloca em debate os obstáculos para comprovar o papel dessas tecnologias em decisões trabalhistas.
A disputa ocorre após cortes anunciados pela companhia e envolve 26 empregados que afirmam ter sido prejudicados por critérios relacionados a deficiência, afastamentos médicos ou licenças familiares. A ação tramita nos EUA e busca impedir temporariamente a conclusão das demissões enquanto os argumentos são analisados.
O principal desafio dos trabalhadores é demonstrar como as ferramentas de IA foram utilizadas internamente pela empresa. Sem acesso aos sistemas e aos critérios adotados, os funcionários enfrentam dificuldades para reunir provas capazes de sustentar a acusação.
Processo revela dificuldade de responsabilizar empresas pelo uso de inteligência artificial no trabalho
Meta – Imagem: IgorGolovniov/Shutterstock
A ação contra a Meta é apontada como uma das primeiras iniciativas judiciais a questionar diretamente o uso de inteligência artificial em um processo de redução de quadro de funcionários. O caso também ajuda a explicar por que ainda são raras as disputas públicas envolvendo decisões trabalhistas tomadas com apoio de tecnologia.
Na avaliação de especialistas citados no processo, trabalhadores costumam ter pouco conhecimento sobre a forma como sistemas automatizados são empregados pelas companhias. Além disso, muitos profissionais estão submetidos a acordos de arbitragem, mecanismos que retiram determinados conflitos da Justiça tradicional e levam a discussão para procedimentos privados.
Essa combinação de falta de acesso às informações e limitações processuais dificulta a formação de ações coletivas. Os empregados, nesses casos, podem perder a possibilidade de apresentar o caso perante um júri ou buscar compensações em processos públicos.
A advogada Christine Webber, integrante da área de direitos civis e relações trabalhistas do escritório Cohen Milstein Sellers & Toll, afirmou que mesmo uma eventual identificação de falhas em um sistema poderia ficar restrita ao caso individual.
“Mesmo que seja comprovado que um determinado sistema produziria resultados discriminatórios repetidamente, não haveria uma forma de compartilhar essa informação com outros funcionários”, declarou Webber, em entrevista mencionada pela Reuters. A profissional não representa os trabalhadores envolvidos no processo contra a Meta.
Outro caso envolvendo inteligência artificial no ambiente de trabalho envolve a Workday, empresa que fornece softwares de gestão de recursos humanos. A companhia é acusada de manter uma ferramenta que teria eliminado candidatos a vagas com base em características como raça, idade e deficiência.
A empresa nega as acusações, e a questão da arbitragem não aparece nesse processo porque a Workday não possui acordos desse tipo com candidatos das empresas que utilizam seus serviços.
Funcionário demitido levando seus pertences para casa (Imagem: 4 PM production/Shutterstock)
No processo contra a Meta, os funcionários tentam obter uma decisão judicial que suspenda temporariamente os desligamentos. Embora os contratos assinados pelos trabalhadores tenham uma exceção que permite pedidos urgentes à Justiça, esse tipo de medida costuma ser usado em situações como disputas envolvendo segredos comerciais, e não em cortes de empregados.
O juiz William Orrick recusou inicialmente o pedido para impedir que a Meta concluísse as demissões. Segundo a decisão, os trabalhadores não apresentaram provas suficientes capazes de contrariar a versão da empresa de que as escolhas foram feitas por pessoas, e não por sistemas automatizados.
Ainda assim, o magistrado deixou aberta a possibilidade de rever a decisão caso surjam evidências sobre um eventual uso inadequado de inteligência artificial. Uma audiência está marcada para 24 de agosto, e qualquer uma das partes poderá recorrer.
Os funcionários sustentam que a Meta utilizou diferentes ferramentas internas de IA durante a avaliação dos trabalhadores, incluindo sistemas capazes de acompanhar produtividade e uso de recursos tecnológicos. Eles alegam que essas análises teriam prejudicado pessoas que ficaram afastadas por motivos médicos ou por responsabilidades familiares.
Entre as ferramentas citadas na ação está o assistente interno chamado “Metamate”, descrito pelos autores do processo como uma espécie de apoio baseado em inteligência artificial para funcionários.
A petição também menciona um sistema de pontuação de produtividade que analisaria informações como registros de teclado, conteúdo de telas, mensagens eletrônicas e histórico de navegação.
A Meta rejeita essa interpretação. Em documentos apresentados ao tribunal e em declarações após a abertura do processo, a companhia afirmou que as decisões relativas às quase 8 mil demissões anunciadas no período foram tomadas por seres humanos. A empresa também negou que o uso de inteligência artificial tenha servido como critério para selecionar funcionários dispensados ou avaliar desempenho.
Os advogados dos trabalhadores reconhecem que a principal dificuldade está no acesso às informações internas da companhia. Em manifestação conjunta, eles pediram que atuais e antigos funcionários da Meta apresentem dados sobre a maneira como ferramentas de inteligência artificial teriam sido usadas na definição dos cortes.
