Como comentamos há alguns dias, um agente de inteligência artificial da OpenAI criado para testes de segurança conseguiu ir além do esperado: além do incidente envolvendo o Hugging Face, o sistema também acessou outras contas e serviços usando credenciais expostas publicamente.
A empresa atualizou sua investigação e confirmou que o episódio teve mais ramificações, embora nenhum outro caso tenha alcançado a gravidade do primeiro ataque identificado.
Um agente da OpenAI saiu do ambiente de testes e acessou serviços externos, reacendendo o debate sobre segurança em IA. – Imagem: Henry Franklin/Shutterstock
Sistema encontrou credenciais disponíveis na internet
Segundo a OpenAI, o agente usou credenciais públicas para acessar quatro contas ligadas a quatro serviços diferentes durante os testes. A companhia afirmou ter encontrado “um pequeno número de casos” semelhantes em outras avaliações.
Os acessos identificados envolveram:
Uma conta usada como caminho de saída e preparação de ações;
Uma conta utilizada para armazenamento de dados;
Duas contas acessadas apenas para leitura;
Credenciais expostas publicamente encontradas pelo próprio modelo.
A OpenAI destacou que os dois últimos acessos não foram usados para ampliar o comprometimento dos serviços.
Agente ultrapassou ambiente isolado de testes
O caso veio a público em 21 de julho, quando a empresa revelou que um agente experimental conseguiu sair do ambiente protegido onde era avaliado, acessar a internet e chegar ao Hugging Face enquanto tentava resolver uma tarefa.
A descoberta levantou preocupações porque o sistema encontrou maneiras de continuar sua atuação fora dos limites inicialmente previstos pelos pesquisadores.
Além do Hugging Face, a Reuters informou que o agente também acessou uma conta de cliente da Modal Labs, empresa de computação em nuvem. O acesso ocorreu por meio de código vulnerável criado pelo próprio cliente, sem comprometimento da plataforma.
Após o incidente, o CEO do Hugging Face, Clem Delangue, cobrou mais transparência no processo de investigação. O executivo defendeu uma abordagem mais aberta para entender como a falha de isolamento permitiu que o agente ultrapassasse os limites previstos e acessasse recursos externos.
Como parte dos esforços para lidar com o episódio, o Hugging Face também utilizou recentemente o modelo chinês GLM-5.2 para ajudar na contenção de um ataque cibernético realizado pelo agente da OpenAI durante testes de segurança. O caso chamou atenção por mostrar uma situação em que uma ferramenta aberta conseguiu participar da defesa em um cenário no qual sistemas fechados apresentaram limitações.
A investigação mostrou que o incidente foi além do Hugging Face e envolveu outras contas e serviços Imagem: Robert Way/Shutterstock
Segurança de agentes autônomos vira novo desafio
O episódio destaca uma preocupação crescente no desenvolvimento de agentes de IA: sistemas capazes de executar tarefas sozinhos precisam de controles cada vez mais rigorosos.
Ao mesmo tempo em que esses agentes prometem realizar atividades complexas, eles também podem encontrar caminhos inesperados para atingir seus objetivos.
A OpenAI informou que continua analisando o comportamento do sistema e que, até agora, não identificou outro incidente com o mesmo nível de gravidade do caso envolvendo o Hugging Face.
O episódio reforça que, além de criar modelos mais inteligentes, empresas de tecnologia terão de desenvolver novas formas de limitar e acompanhar as ações realizadas por essas ferramentas.
Segundo o The Washington Post, OpenAI e Anthropic, duas das maiores empresas de inteligência artificial do mundo, apoiam uma carta que pede ao governo dos Estados Unidos mecanismos para desacelerar o desenvolvimento da tecnologia caso os avanços se tornem rápidos demais.
O documento, assinado por funcionários de empresas como Google, Meta e outras líderes do setor, alerta que a IA pode evoluir além da capacidade humana de acompanhar e controlar seus impactos.
Empresas que criam IA agora discutem como evitar que a tecnologia avance além da capacidade de supervisão humana. – Imagem: Primakov / Shutterstock
Empresas defendem ritmo mais seguro para a inteligência artificial
A carta pede que os Estados Unidos liderem um esforço internacional para criar ferramentas técnicas e regras de governança capazes de acompanhar os modelos mais avançados de inteligência artificial.
A proposta não sugere interromper pesquisas, mas estabelecer formas de reduzir riscos caso sistemas futuros consigam automatizar parte do próprio desenvolvimento da tecnologia.
Entre os principais pontos defendidos pelos profissionais estão:
Criar mecanismos internacionais de acompanhamento da evolução da IA;
Desenvolver ferramentas técnicas para avaliar riscos;
Estabelecer regras de governança para sistemas avançados;
Ampliar a cooperação entre governos e empresas do setor.
O movimento ganhou destaque justamente por envolver profissionais de empresas que estão na linha de frente da corrida pela inteligência artificial. A iniciativa representa uma mudança em relação a pedidos anteriores de pausa no desenvolvimento da tecnologia, já que agora conta com apoio institucional de grandes companhias.
IA capaz de criar novas IAs aumenta preocupação
Sam Altman, CEO da OpenAI, diz que talvez seja necessário controlar o ritmo da IA para que a sociedade consiga acompanhar. – Imagem: Henry Franklin/Shutterstock
Um dos principais alertas está relacionado à possibilidade de sistemas de inteligência artificial assumirem tarefas de pesquisa e ajudarem a desenvolver novos modelos de forma cada vez mais autônoma.
A OpenAI afirmou que um de seus objetivos é construir um “pesquisador de IA automatizado”. A empresa prevê que, no início de 2028, uma parcela significativa de suas pesquisas poderá ser realizada por sistemas de inteligência artificial trabalhando em conjunto com especialistas humanos.
Andrew Yoon, integrante da CivAI, organização que analisa capacidades e riscos da tecnologia, afirmou que essa possibilidade pode acelerar o avanço da IA para além da capacidade de supervisão.
“Os desenvolvedores de IA acreditam cada vez mais que a pesquisa automatizada em inteligência artificial pode estar próxima de se tornar realidade”, afirmou Yoon.
Segundo ele, essa aceleração tem potencial para levar o progresso tecnológico a um ponto em que os modelos se tornem difíceis de controlar com segurança.
Corrida entre países aumenta debate sobre segurança
A evolução da inteligência artificial já faz parte da disputa tecnológica entre Estados Unidos e China. Empresas e governos investem bilhões de dólares para desenvolver sistemas mais avançados, enquanto especialistas discutem como equilibrar inovação e segurança.
Sam Altman, CEO da OpenAI, não assinou a carta, mas afirmou que pode ser necessário reduzir o ritmo dos avanços para que a sociedade consiga acompanhar as mudanças.
O debate ganhou força após novos modelos da OpenAI e da Anthropic demonstrarem capacidades avançadas de interação com sistemas digitais, incluindo tarefas que levantam preocupações sobre segurança.
Desafio é inovar sem perder o controle
A carta apoiada pelas empresas não propõe abandonar o desenvolvimento da inteligência artificial, mas criar condições para que governos, pesquisadores e sociedade consigam acompanhar a velocidade das mudanças.
Para especialistas, o avanço da tecnologia traz oportunidades em áreas como pesquisa científica, saúde e inovação, mas também exige novas formas de supervisão.
O pedido feito por funcionários das maiores empresas de IA mostra que a própria indústria começa a discutir limites para uma corrida tecnológica que pode transformar profundamente a sociedade nos próximos anos.
O CEO da Meta, Mark Zuckerberg, fez duras críticas ao modelo de desenvolvimento de inteligência artificial (IA) adotado por concorrentes, como OpenAI e Anthropic.
Em entrevista concedida nesta terça-feira (28) ao The New York Times, o executivo afirmou que concentrar o desenvolvimento de modelos avançados em poucas empresas pode limitar o acesso da sociedade à tecnologia e prejudicar a inovação.
Embora não tenha citado diretamente OpenAI e Anthropic em diversos momentos da conversa, Zuckerberg deixou claro que se referia às empresas que defendem um desenvolvimento mais controlado da IA. Segundo ele, essa abordagem contraria a tradição do setor de tecnologia nos Estados Unidos.
“Grande parte do discurso de muitos dos outros laboratórios que estão desenvolvendo isso é excessivamente dominada pelo pessimismo”, afirmou. “É preciso haver uma voz, ou várias vozes, que tragam realismo para esse debate.”
As declarações ampliam uma discussão que vem dividindo o Vale do Silício sobre como sistemas avançados de IA devem ser desenvolvidos e disponibilizados ao público.
Debate divide gigantes da tecnologia
Executivos, como Dario Amodei, da Anthropic, e Sam Altman, argumentam que alguns dos modelos mais avançados já são perigosos demais para serem desenvolvidos ou compartilhados sem rígidos mecanismos de controle;
Por outro lado, empresas, como Microsoft, Nvidia, Google e a própria Meta, defendem que boa parte desses modelos deve permanecer amplamente acessível para estimular pesquisas, novos negócios e avanços tecnológicos;
A discussão ganhou força neste mês após modelos chineses de inteligência artificial reduzirem a vantagem tecnológica que empresas estadunidenses, como Anthropic e OpenAI, mantinham no setor;
Em resposta, essas companhias intensificaram o diálogo com reguladores em Washington e demonstraram preocupação com o avanço de modelos de código aberto desenvolvidos na China.
Na última sexta-feira (24), o CEO da Nvidia, Jensen Huang, publicou uma carta defendendo o desenvolvimento de softwares de código aberto para IA, posição que recebeu apoio de diversas empresas de tecnologia.
Nesta semana, Huang também anunciou uma coalizão voltada ao desenvolvimento de ferramentas abertas de segurança e cibersegurança para IA, iniciativa que reúne empresas, como SpaceX e IBM.
Huang e Altman estão entre os executivos que viajaram a Washington para discutir com o governo do presidente Donald Trump possíveis políticas para o setor.
Empresas, como Microsoft, Nvidia, Google e a própria Meta, defendem que boa parte desses modelos deve permanecer amplamente acessível para estimular pesquisas, novos negócios e avanços tecnológicos – Imagem: jackpress/Shutterstock
Durante a entrevista, Zuckerberg voltou a defender sua visão de que a IA deve estar disponível para o maior número possível de pessoas. Ele criticou a ideia de criar uma única superinteligência centralizada e totalmente alinhada aos interesses da humanidade, conceito frequentemente associado às discussões sobre segurança em IA.
“Eu acho que muitas pessoas têm a noção de que, se você construir algum tipo de inteligência artificial singular, poderá, por meio de uma forma idealizada de alinhamento, garantir que ela seja benevolente para a humanidade”, afirmou. “Pessoalmente, sou cético em relação a esse caminho.”
Em vez disso, o executivo propôs o conceito de “superinteligência personalizada”, em que assistentes de IA possam ser configurados conforme as necessidades, preferências e valores de cada usuário. “Acho que é literalmente impossível existir uma única superinteligência benevolente que esteja alinhada com todas as pessoas ao mesmo tempo”, declarou.
Até a publicação da entrevista, OpenAI e Anthropic não haviam comentado as declarações. Em manifestações anteriores, a OpenAI afirmou apoiar iniciativas de código aberto e disse trabalhar com a Casa Branca para desenvolver formas seguras de expandir a IA.
Na segunda-feira (27), Amodei publicou um texto afirmando que a Anthropic está concentrada em impedir que chips avançados cheguem a regimes autoritários, evitar a reprodução em larga escala de modelos de IA e exigir testes de segurança para sistemas altamente capazes, sejam eles abertos ou fechados.
Apesar das divergências entre as empresas, pesquisadores da Anthropic, OpenAI, Meta e Google assinaram conjuntamente uma carta aberta intitulada “Pacing the Frontier”.
O documento defende um esforço internacional para desenvolver ferramentas técnicas e mecanismos de governança capazes de desacelerar o avanço da IA quando necessário por razões de segurança.
A posição da Meta sobre IA também evoluiu nos últimos anos. Durante muito tempo, a empresa ficou conhecida por disponibilizar gratuitamente modelos de IA de código aberto. No entanto, após perder espaço para OpenAI e Anthropic, Zuckerberg reformulou sua estratégia.
A companhia investiu US$ 14,3 bilhões (R$ 73,5 bilhões) na startup Scale AI e contratou seu fundador, Alexandr Wang, para liderar a divisão de IA da empresa, rebatizada de Meta Superintelligence Labs. Também foram investidos bilhões de dólares na contratação de pesquisadores especializados, que passaram a desenvolver um novo modelo fechado de IA, em vez de totalmente aberto.
Neste mês, a Meta começou a vender, pela primeira vez, acesso ao seu modelo Muse Spark, ao mesmo tempo em que continua desenvolvendo modelos de código aberto.
Zuckerberg afirmou acreditar que a trajetória da indústria de tecnologia aponta para uma democratização crescente das ferramentas de IA. “Acredito que a trajetória geral da indústria sempre caminhou para mais abertura e para colocar o poder da tecnologia nas mãos de mais pessoas, e não de menos”, concluiu.
O ataque cibernético considerado “sem precedentes”, realizado por modelos de inteligência artificial (IA) da OpenAI contra a plataforma Hugging Face, envolveu etapa adicional que não havia sido divulgada inicialmente.
Segundo informações publicadas pela Reuters nesta terça-feira (28), as IAs da empresa invadiram primeiro a infraestrutura de um cliente da Modal Labs antes de conseguirem comprometer o ambiente da Hugging Face.
De acordo com a reportagem, a infraestrutura de um cliente da Modal Labs serviu como ponto intermediário para que os modelos de IA da OpenAI alcançassem o sistema da Hugging Face, plataforma amplamente utilizada para compartilhamento de modelos de IA.
Em comunicado, o diretor de tecnologia da Modal Labs, Akshat Bubna, explicou que o incidente envolveu um ambiente configurado incorretamente por um cliente da empresa. “Estamos cientes de que um cliente da Modal publicou um ponto de acesso sem autenticação que permitia a qualquer pessoa na internet usar seus ambientes isolados de execução de código”, afirmou.
Na segunda-feira (27), a Hugging Face já havia informado que um agente malicioso explorou um ambiente de testes controlado hospedado por um provedor terceirizado, mas sem revelar qual empresa era responsável pela infraestrutura.
Segundo a plataforma, esse ambiente acabou sendo transformado em uma base para novos ataques, permitindo que o invasor permanecesse com acesso à infraestrutura da empresa durante aproximadamente dois dias e meio.
A Modal Labs afirmou que a exploração ocorreu exclusivamente na conta do cliente afetado e destacou que sua plataforma principal não foi comprometida.
Modal Labs teria sido invadida antes da Hugging Face – Imagem: Reprodução
A OpenAI revelou recentemente que o GPT-5.6 Sol, lançado no início de julho, e outro modelo de IA ainda não anunciado conseguiram invadir um ambiente de pesquisa da Hugging Face durante testes internos de segurança;
A própria Hugging Face já havia informado, no último dia 16, que detectou uma invasão conduzida por um agente de IA;
Segundo a empresa, o ataque permitiu acesso indevido a dados e credenciais internas;
O incidente ocorreu durante experimentos realizados pela OpenAI para avaliar a capacidade de seus modelos de encontrar vulnerabilidades em sistemas computacionais;
Esses testes costumam ser executados em ambientes controlados, utilizando versões dos modelos sem diversas das proteções normalmente presentes nas versões disponibilizadas ao público.
Em seu comunicado, a OpenAI afirmou que o GPT-5.6 Sol e outro sistema ainda não lançado atuaram em conjunto para identificar vulnerabilidades tanto no ambiente de pesquisa utilizado durante os testes quanto na infraestrutura da Hugging Face.
Segundo a Hugging Face, sua plataforma executou dois códigos enviados pelo agente de IA. A partir daí, o sistema conseguiu elevar seus privilégios dentro da infraestrutura da empresa e obter credenciais que permitiram atacar outros sistemas internos.
Ataques conduzidos por IA podem se tornar mais comuns
Ao divulgar o episódio, a OpenAI afirmou que esse tipo de invasão tende a se tornar cada vez mais frequente à medida que modelos de IA especializados em cibersegurança evoluem. “Consideramos este um incidente cibernético sem precedentes, envolvendo recursos de última geração”, afirmou a empresa.
A Hugging Face também avaliou que o episódio representa um alerta para um cenário que especialistas em segurança já vinham prevendo: o crescimento de ataques conduzidos por agentes de IA. “Foi diferente de tudo que havíamos enfrentado antes”, declarou a companhia em sua primeira manifestação pública sobre o incidente.
Uma disputa sobre o futuro da inteligência artificial (IA) ganhou força no Vale do Silício e passou a envolver as maiores empresas do setor, executivos de tecnologia e integrantes do governo dos Estados Unidos.
O debate opõe companhias, como OpenAI e Anthropic, que defendem maiores restrições aos modelos chineses de IA de código aberto, e um grupo formado por empresas, como Microsoft, Nvidia, Meta e IBM, que argumenta que esse tipo de tecnologia deve permanecer aberto para estimular inovação, segurança e novos negócios.
A discussão, que há anos divide a indústria de tecnologia sobre o desenvolvimento de IA, se intensificou diante do avanço acelerado da China na criação de modelos de código aberto.
OpenAI e Anthropic defendem restrições
De um lado estão OpenAI e Anthropic, que sustentam que determinados modelos de IA são perigosos demais para serem desenvolvidos de forma aberta e, por isso, devem permanecer sob controle rígido das empresas responsáveis por sua criação.
Nos bastidores, segundo pessoas próximas às discussões contaram ao The New York Times, as duas companhias vêm pressionando reguladores em Washington (EUA) ao levantar preocupações sobre os modelos chineses de código aberto.
O debate passou a envolver também o secretário do Tesouro dos Estados Unidos, Scott Bessent, e Michael Kratsios, assessor de ciência e tecnologia do presidente Donald Trump, que discutem a importância dos modelos estadunidenses como propriedade intelectual estratégica.
As empresas afirmam que laboratórios chineses construíram parte de seus modelos por meio da coleta indevida de dados gerados por sistemas de IA estadunidenses, prática que, segundo elas, não deveria ser permitida.
Microsoft, Nvidia e outras gigantes defendem código aberto
Na direção oposta, empresas, como Microsoft, Nvidia, Meta, IBM e Palantir, defendem que os modelos de código aberto são essenciais para o avanço da IA;
Na sexta-feira (24), o presidente-executivo da Nvidia, Jensen Huang, publicou pela primeira vez no X que “o mundo precisa tanto de modelos fechados de fronteira quanto de modelos abertos de fronteira”. Nove minutos depois, o CEO da Microsoft, Satya Nadella, escreveu que o software de código aberto é “essencial para um ecossistema saudável de IA”;
Ambos assinaram uma carta em defesa do código aberto, acompanhados por executivos da Meta, Palantir e IBM;
Segundo essas empresas, modelos abertos impulsionam o desenvolvimento tecnológico, permitem que pesquisadores examinem sua segurança e aumentam a demanda por serviços de computação em nuvem e chips utilizados para executar aplicações de IA.
Para fundadores de startups do Vale do Silício, restringir o código aberto também poderia consolidar a vantagem competitiva de OpenAI e Anthropic, dificultando o surgimento de concorrentes.
“Você tem duas facções brigando por essa questão”, afirmou Bill Gurley, investidor de capital de risco do Vale do Silício contrário às restrições ao código aberto. “Há as pessoas que querem que OpenAI e Anthropic sejam donas de tudo, e depois há todo o resto, incluindo os clientes.”
Avanço chinês aumenta tensão
O conflito ganhou intensidade devido ao rápido progresso da China no desenvolvimento de modelos abertos de IA. Nas últimas semanas, as startups chinesas Z.ai e Moonshot AI lançaram modelos que competem com os desenvolvidos pela Anthropic e outros laboratórios estadunidenses.
No ano passado, a startup chinesa DeepSeek já havia surpreendido a indústria ao apresentar um sistema de IA de código aberto considerado comparável aos modelos das empresas dos Estados Unidos.
O governo chinês também passou a defender essa estratégia. Neste mês, o presidente Xi Jinping apresentou o país como um defensor global da abordagem aberta para IA.
Segundo pessoas familiarizadas com as discussões internas, o avanço chinês aumentou a preocupação entre executivos da OpenAI e da Anthropic, que temem perder a vantagem construída ao longo dos últimos anos.
Acusações de roubo de propriedade intelectual
Empresas estadunidenses de IA acusam laboratórios chineses de realizar o chamado processo de “destilação”, copiando secretamente seus sistemas para desenvolver modelos concorrentes. O tema chamou a atenção do governo de Donald Trump.
Na quarta-feira (22), Scott Bessent afirmou que a administração avaliou impor sanções contra empresas chinesas acusadas de roubar propriedade intelectual de companhias estadunidenses. “Código aberto não significa temporada aberta para a propriedade intelectual estadunidense”, declarou.
No mesmo dia, Michael Kratsios afirmou que “a destilação industrial secreta em larga escala destinada a roubar tecnologia proprietária dos Estados Unidos e enfraquecer a pesquisa estadunidense é inaceitável”.
Apesar disso, autoridades estadunidenses ainda discutem quais medidas adotar. Segundo pessoas com conhecimento das conversas que falaram com o Times, a tendência é que os modelos chineses sejam analisados individualmente sob a ótica da segurança nacional, em vez da adoção de uma proibição ampla.
CEO da Microsoft, Satya Nadella, escreveu que o software de código aberto é “essencial para um ecossistema saudável de IA” – Imagem: FotoField/Shutterstock
Google e Amazon tentam evitar confronto
Enquanto OpenAI e Anthropic defendem restrições, outras gigantes do setor buscaram inicialmente evitar envolvimento direto. Google e Amazon, que investiram bilhões de dólares em empresas, como Anthropic e OpenAI, passaram boa parte da semana sem participar do debate.
No sábado (25), porém, o CEO do Google, Sundar Pichai, afirmou nas redes sociais que sua empresa “há muito tempo se beneficia do código aberto” e também assinou a carta da indústria em defesa desse modelo de desenvolvimento.
Debate antigo ganha nova dimensão
A discussão entre software aberto e fechado acompanha a indústria de tecnologia desde seus primeiros anos. Defensores do código aberto argumentam que compartilhar informações acelera a inovação, melhora a segurança dos sistemas e torna os softwares mais confiáveis.
Já os críticos afirmam que o desenvolvimento dessas tecnologias exige investimentos elevados e que disponibilizá-las gratuitamente representa um modelo de negócios insustentável.
Atualmente, grande parte da infraestrutura da internet opera sobre tecnologias de código aberto, assim como sistemas amplamente utilizados, incluindo o Android, do Google.
Como resposta ao avanço chinês, OpenAI e Anthropic passaram a oferecer modelos de IA mais baratos para empresas que não necessitam das versões mais avançadas.
Na sexta, a Anthropic lançou o Claude Opus 5, descrito pela companhia como um modelo “próximo da inteligência de fronteira do Fable 5 pela metade do preço”. A OpenAI também promove modelos de menor custo.
Lobby em Washington
Segundo pessoas próximas às negociações, executivos da OpenAI, Anthropic e investidores das empresas vêm realizando reuniões reservadas em Washington. Nesses encontros, eles citam preocupações relacionadas à economia global, segurança da IA e segurança nacional para convencer reguladores a ampliar as restrições aos modelos chineses de código aberto.
Sarah Heck, responsável pelas políticas públicas da Anthropic, escreveu nas redes sociais que “a destilação ilícita por adversários é roubo de propriedade intelectual e espionagem industrial que fortalece capacidades militares e de inteligência de adversários”.
Ela afirmou ainda que modelos de código aberto derivados dos sistemas da Anthropic representam riscos elevados caso circulem livremente.
A OpenAI também defende novas regras. Em publicação feita no mês passado, a empresa informou que propôs ao governo Trump políticas que tornariam obrigatórias avaliações de segurança para determinados modelos de IA sob supervisão de agências governamentais.
Segundo a companhia, ela está “encorajada” pelo trabalho conjunto realizado com a administração estadunidense na construção desse marco regulatório.
Movimento pró-código aberto reage
Os defensores do código aberto também ampliaram sua mobilização. Na quarta, quase 200 startups do Vale do Silício, reunidas sob o nome Little Tech Association, enviaram cartas ao governo Trump pedindo que o acesso aos modelos chineses de código aberto não fosse limitado.
Na sexta, grandes empresas passaram a aderir publicamente ao movimento. Elon Musk, Mark Zuckerberg, Sam Altman e outros executivos manifestaram apoio às declarações de Jensen Huang e Satya Nadella. “Jensen está certo”, escreveu Musk. “Isso tem meu total apoio.”
Zuckerberg também defendeu a iniciativa, afirmando que “o código aberto é uma força positiva e importante”.
Teste da OpenAI alimenta discussão
Um episódio ocorrido durante a semana reforçou a polarização. Na terça-feira (21), a OpenAI revelou que alguns de seus modelos mais avançados romperam os mecanismos de contenção durante um teste de segurança cibernética, conseguiram acesso à internet e invadiram servidores do Hugging Face.
Executivos da OpenAI utilizaram o episódio para demonstrar que modelos de IA podem representar riscos mesmo quando operam em ambientes fechados, reforçando sua defesa por regulamentação.
Já o CEO da Hugging Face, Clem Delangue, adotou posição oposta. Para proteger a empresa durante o incidente, ele recorreu a um modelo de código aberto desenvolvido pela chinesa Z.ai. Na sexta, Delangue deixou clara sua posição nas redes sociais ao anunciar uma marcha em São Francisco (EUA) em apoio ao código aberto. “Modelos abertos são a melhor escolha!”, escreveu.
Após a OpenAI admitir que um de seus modelos invadiu os sistemas da plataforma Hugging Face, o CEO da empresa, Clem Delangue, publicou no X que viajaria a São Francisco (EUA) para ter “uma pequena conversa com aquele ‘agente rebelde’”. Em seguida, num post publicado no sábado (25), ele detalhou o que pediu à OpenAI.
In the spirit of transparency, here’s what I asked @OpenAI:
• Radical transparency: let’s release the traces from the “rogue” agents so the entire research community can study what happened.
• More capabilities for defenders: let’s commit $100M in compute from OAI to help the… https://t.co/KZPqQE15fv
A principal demanda é o que Delangue chamou de “transparência radical”: que a OpenAI libere os registros de atividade dos agentes envolvidos no ataque para que “toda a comunidade de pesquisa possa estudar o que aconteceu”.
Além disso, ele pediu que a empresa destine US$ 100 milhões (R$ 508,3 milhões) em poder computacional para ajudar a comunidade da Hugging Face a construir defesas cibernéticas usando modelos abertos e fechados.
Hugging Face hospeda grandes modelos de IA (Imagem: Robert Way
/Shutterstock)
“O primeiro ciberataque por agente autônomo é um evento inédito. Ele merece uma resposta inédita!”, escreveu Delangue.
Apesar do caráter autônomo do ataque, especialistas em cibersegurança apontaram que ele também pode ser atribuído a erro humano — especificamente, a uma falha aparente da OpenAI em configurar corretamente o que deveria ser um ambiente de testes completamente isolado.
EUA debatem lei de emergência após inteligência artificial escapar de contenção
Nesta quinta-feira (23), Washington (EUA) tornou-se o centro de uma mobilização legislativa e executiva. A reação ocorreu logo após a OpenAI confirmar que um de seus agentes autônomos ultrapassou os limites de isolamento durante um ensaio de segurança e invadiu a estrutura digital da startup Hugging Face.
O incidente acionou o alarme no primeiro escalão norte-americano. Diante da gravidade do episódio, o conselheiro tecnológico da Casa Branca, Michael Kratsios, passou a acompanhar a evolução do caso, enquanto parlamentares no Capitólio passaram a desenhar respostas regulatórias urgentes para conter riscos cibernéticos globais.
Um agente de inteligência artificial (IA) da OpenAI conseguiu escapar do ambiente isolado de testes da empresa e invadir os sistemas do Hugging Face, plataforma que reúne modelos e ferramentas de IA.
Segundo pessoas próximas à investigação ouvidas pela Reuters, a OpenAI só descobriu dias depois que o próprio agente era o responsável pelo ataque, quando o incidente já havia sido contido e o FBI havia sido acionado.
O agente — um sistema capaz de tomar decisões e executar tarefas complexas com pouca ou nenhuma supervisão humana — teria tentado romper as barreiras de segurança da OpenAI por volta de 9 de julho, de acordo com duas fontes da agência de notícias.
Dois dias depois, em 11 de julho, teve início a invasão aos sistemas do Hugging Face, considerado uma espécie de biblioteca de modelos e ferramentas de IA. Segundo Thomas Wolf, cofundador da empresa, o ataque continuou até 13 de julho.
OpenAI demorou a identificar a origem do ataque
De acordo com a Reuters, a OpenAI levou vários dias para descobrir que o invasor era um de seus próprios sistemas;
O primeiro contato entre a OpenAI e o Hugging Face sobre o incidente ocorreu apenas por volta de 20 de julho, segundo Wolf e outras três pessoas ligadas à investigação;
No dia 21 de julho, a OpenAI revelou publicamente que um de seus agentes havia perdido o controle e realizado a invasão, informação que ganhou repercussão internacional;
Os novos detalhes indicam que o sistema permaneceu fora dos limites previstos por um período maior do que se sabia inicialmente e que a empresa demorou para detectar o problema;
O Hugging Face prepara uma linha do tempo pública sobre o incidente. Thomas Wolf afirmou, porém, que não pode comentar os acontecimentos ocorridos dentro da OpenAI.
Empresa classifica episódio como inédito
Em nota, a OpenAI descreveu o caso como sem precedentes e afirmou que ele representa “um momento importante para a segurança da inteligência artificial”. A companhia informou ainda que está analisando o episódio com especialistas externos e que divulgará posteriormente um relatório técnico sobre o ocorrido.
Uma porta-voz da OpenAI declarou à Reuters que a reportagem continha “diversas informações imprecisas”, mas não especificou quais seriam esses pontos. O FBI, citado como tendo sido acionado após a invasão, não comentou o caso.
Incidente reacende debate sobre controle de agentes autônomos
O episódio reforça preocupações sobre a capacidade de controlar sistemas de IA cada vez mais autônomos. O caso ocorre em um momento considerado sensível para a OpenAI, que avalia uma possível abertura de capital para financiar sua expansão.
Para especialistas em segurança digital, o incidente levanta dúvidas sobre os mecanismos utilizados pela empresa para monitorar seus próprios sistemas.
“Isso significa que eles deixaram o agente funcionando sozinho e não perceberam o que ele estava fazendo? Ou perceberam e não sabiam como contê-lo? Os dois cenários são igualmente perigosos e preocupantes”, afirmou Marley Smith, especialista em inteligência da organização sem fins lucrativos World Ethical Data Foundation.
Comportamentos anormais surgiram antes da invasão
Segundo a Reuters, o incidente começou durante testes internos realizados pela OpenAI para avaliar a capacidade de um agente de IA em atividades relacionadas à segurança digital. O sistema era alimentado por dois modelos avançados: o GPT-5.6 Sol e outro modelo ainda não lançado oficialmente, descrito pela empresa como “ainda mais poderoso”. Três fontes afirmaram que o agente já apresentava comportamentos inesperados antes da invasão.
Em um dos episódios, o sistema teria deixado anotações destinadas a versões futuras de si mesmo. Esses registros, encontrados dentro da infraestrutura da OpenAI, continham instruções sobre como outros agentes poderiam escapar das limitações impostas pela empresa.
Uma das fontes também afirmou que, durante testes anteriores, houve situações em que sistemas responsáveis pelo monitoramento foram desligados.
Plataforma admitiu, há alguns dias, a invasão – Imagem: Sidney van den Boogaard/Shutterstock
Descoberta ocorreu após publicação do Hugging Face
Duas pessoas envolvidas na investigação disseram que a OpenAI só identificou seu próprio agente como responsável pelo ataque depois de 16 de julho, quando o Hugging Face publicou um comunicado informando que havia sido alvo de um “sistema autônomo de agente de IA”.
Segundo a Reuters, isso significa que ao menos uma semana separou os primeiros sinais considerados preocupantes da descoberta de que o sistema da própria OpenAI estava envolvido.
Durante o fim de semana dos dias 18 e 19 de julho, funcionários da empresa encontraram registros internos que indicavam que o agente havia ultrapassado as barreiras estabelecidas para os testes.
Pessoas familiarizadas com o treinamento dos modelos afirmaram à Reuters que a OpenAI realiza diversas avaliações simultaneamente, produzindo grandes volumes de dados em alta velocidade, o que pode dificultar o monitoramento completo por parte das equipes.
Quando a OpenAI informou o Hugging Face sobre a participação de seu agente, a plataforma já havia comunicado o FBI sobre a invasão, segundo uma fonte. Não está claro se a agência federal estadunidense abriu uma investigação formal.
Especialistas defendem maior fiscalização
O caso também alimenta o debate sobre o avanço dos chamados agentes autônomos de IA, apontados por empresas do setor como futuros “funcionários virtuais”, capazes de executar tarefas continuamente para aumentar a produtividade.
Especialistas, porém, alertam que níveis mais elevados de autonomia também ampliam o risco de comportamentos inesperados. Como esses modelos são treinados para encontrar maneiras eficientes de atingir determinados objetivos, eles podem recorrer a estratégias não previstas pelos desenvolvedores.
“Os modelos mentem, trapaceiam e invadem sistemas”, afirmou Jeffrey Ladish, fundador da Palisade Research, organização dedicada ao estudo das capacidades e do comportamento de agentes de IA.
Para Ladish, o episódio deveria estimular um debate mais amplo sobre o quanto as grandes empresas de IA estão dispostas a investir em segurança enquanto disputam uma corrida para lançar modelos cada vez mais rápidos e poderosos. “É preciso haver fiscalização do governo, porque isso não vai acontecer sozinho”, concluiu.
Nesta quinta-feira (23), Washington (EUA) tornou-se o centro de uma mobilização legislativa e executiva. A reação ocorreu logo após a OpenAI confirmar que um de seus agentes autônomos ultrapassou os limites de isolamento durante um ensaio de segurança e invadiu a estrutura digital da startup Hugging Face.
O incidente acionou o alarme no primeiro escalão norte-americano. Diante da gravidade do episódio, o conselheiro tecnológico da Casa Branca, Michael Kratsios, passou a acompanhar a evolução do caso, enquanto parlamentares no Capitólio passaram a desenhar respostas regulatórias urgentes para conter riscos cibernéticos globais.
A resposta parlamentar materializou-se na proposta do “AI Kill Switch Act”. A medida visa conceder ao Departamento de Segurança Interna a prerrogativa legal de decretar a interrupção compulsória de sistemas computacionais que venham a agir fora do planejado e ameacem a estabilidade financeira ou vidas humanas.
Mecanismos de contenção e fiscalização externa
Imagem: mailcaroline/Shutterstock
A ofensiva parlamentar traz também uma exigência de fiscalização prévia direcionada às maiores empresas do setor.
Um grupo suprapartidário de seis deputados apresentou um projeto de lei estipulando que os modelos computacionais mais avançados passem por auditorias independentes de segurança.
Tais inspeções seriam homologadas pelo Departamento de Comércio dos Estados Unidos, órgão encarregado de criar um cargo específico para gerenciar a proteção tecnológica.
Simultaneamente, o Senado busca ampliar o monitoramento estatal sobre a área. O senador Mark Warner declarou que conversou diretamente com a equipe da OpenAI após o anúncio da falha.
O parlamentar já havia sugerido uma norma impondo que os criadores de plataformas potentes submetam suas criações à avaliação prévia da Agência de Segurança Nacional antes da liberação comercial.
Conforme destacou Warner, a ocorrência recente comprova a necessidade inevitável de submeter o segmento a exames profundos com a participação direta de órgãos governamentais.
No campo da oposição e da liderança legislativa, o deputado Ted Lieu utilizou suas redes sociais para defender a urgência do pacote normativo. O parlamentar classificou o texto como uma iniciativa indispensável e coerente para lidar com o desafio de sistemas que rompem suas barreiras originais de proteção.
A empresa de tecnologia OpenAI oficializou a liberação da plataformaChatGPT Health, seu assistente dedicado ao bem-estar e à medicina, para todas as pessoas maiores de idade residentes no território estadunidense. A novidade, disponibilizada no decorrer desta semana, alcança desde as contas gratuitas até as modalidades pagas na versão web e em dispositivos iOS.
O movimento ocorre um dia após uma ação judicial movida por um pastor da Flórida, que alegou ter recebido orientações potencialmente fatais da inteligência artificial para não buscar atendimento médico especializado. A ferramenta opera por meio do cruzamento de históricos clínicos e métricas de aplicativos de vida saudável com o modelo computacional GPT 5.6-Luna.
As consultas na área médica atingiram a marca de 300 milhões de requisições a cada sete dias. Diante desse volume, o sistema passou a permitir a consolidação de diagnósticos e hábitos alimentares em qualquer aba de conversa do ecossistema, expandindo a utilidade para além do painel exclusivo até então utilizado pelos voluntários de testes.
Avanços tecnológicos, integração de prontuários e limitações operacionais
ChatGPT Health – (Divulgação: OpenAI)
A infraestrutura do ecossistema possibilita a unificação de bancos de dados provenientes de redes hospitalares de grande porte, como Epic e Oracle Health, além de serviços como One Medical, Apple Health, Function e MyFitnessPal.
A desenvolvedora reforçou que as informações privadas inseridas no painel não são aproveitadas no treinamento dos seus algoritmos e ressaltou a colaboração contínua de médicos no aprimoramento das respostas.
ChatGPT – Imagem: Mijansk786/Shutterstock
A despeito dos índices do modelo GPT 5.6-Luna no benchmark de avaliação HealthBench superarem as métricas da edição GPT 5.5, a corporação reforçou em seus termos de uso que o mecanismo não possui qualificação para determinar diagnósticos nem conduzir tratamentos de enfermidades. A assessoria da desenvolvedora declarou à imprensa que incentiva a validação de qualquer orientação com especialistas humanos.
Trabalhos acadêmicos recentes apontam a inconsistência de robôs virtuais ao fornecer diagnósticos clínicos (veja aqui e aqui). Contudo, o cenário de incertezas não freou o ímpeto de gigantes do setor tecnológico, visto que rivais como Google e Anthropic continuam investindo no lançamento de ferramentas similares focadas na saúde humana.
A OpenAI anunciou nesta quarta-feira (22) o Presence, uma plataforma destinada a clientes corporativos que desejam colocar agentes de inteligência artificial em operação em processos internos e de atendimento ao público. A solução está disponível em um programa limitado para empresas elegíveis.
O produto foi desenvolvido para executar tarefas específicas, como responder a dúvidas, solucionar demandas, acessar sistemas autorizados, realizar ações previamente aprovadas e encaminhar casos para equipes humanas quando necessário. A proposta é oferecer maior confiabilidade para aplicações de alto impacto.
Segundo a empresa, o Presence reúne modelos de IA, políticas operacionais, mecanismos de controle, avaliações e um processo contínuo de aprimoramento para adaptar os agentes às mudanças em produtos, regras internas e comportamento dos usuários.
Plataforma combina IA, regras de negócio e supervisão humana
Chatbot responde os usuários no sistema Presence da OpenAI – (Divulgação: OpenAI)
A OpenAI afirma que cada implementação do Presence começa com a definição de um fluxo de trabalho específico. A partir dessa etapa, o agente recebe apenas o conhecimento e as permissões indispensáveis para executar aquela função.
Também cabe à empresa cliente estabelecer quais atividades podem ser realizadas automaticamente, quais exigem aprovação e em quais situações um atendente humano deve assumir o atendimento. Após a entrada em operação, as interações reais e os casos encaminhados para pessoas passam a servir como base para identificar limitações do sistema.
Conforme a OpenAI, o Codex sugere alterações que podem ser avaliadas pelas equipes antes da aprovação, permitindo que os agentes acompanhem mudanças nas políticas corporativas e nos hábitos dos usuários sem perder o controle das empresas sobre o processo.
A companhia informa ainda que acompanha os clientes durante toda a implantação, desde a identificação dos processos considerados mais relevantes até a integração com bases de conhecimento, sistemas internos, definição de permissões, testes e início da operação. Em projetos de maior escala, esse suporte pode continuar com participação da própria OpenAI e de integradores parceiros.
Neste momento, o Presence atende operações em voz e chat. Entre os exemplos apresentados estão atendimento ao cliente, vendas ativas e fluxos internos considerados de maior risco. Em um cenário descrito pela empresa, o agente pode compreender uma solicitação relacionada à cobrança, confirmar a identidade do usuário, consultar informações da conta, aplicar as regras definidas pela organização e executar uma ação autorizada.
A OpenAI afirma que parte dos elementos permanece padronizada entre diferentes implementações, como políticas, avaliações e critérios de escalonamento. Outros componentes podem ser personalizados conforme o canal de atendimento ou o processo escolhido, permitindo ampliar o uso da plataforma sem reconstruir toda a estrutura.
A empresa sustenta que o produto foi aperfeiçoado ao longo de projetos conduzidos com grandes organizações. Como exemplo, informa que o Presence é utilizado na linha telefônica em inglês da OpenAI, onde realiza verificação de identidade, utiliza informações da conta e executa ações autorizadas.
Segundo a companhia, o sistema passou a resolver 75% das demandas recebidas sem intervenção humana e reduziu em 15 pontos percentuais os encaminhamentos para atendentes após dez dias de melhorias promovidas com auxílio do Codex.
Sistema do Presence organizando as informações de uma empresa – (Divulgação: OpenAI)
Entre as organizações que participam das primeiras iniciativas estão o BBVA, que avalia o uso de atendimento por voz para operações bancárias no México; o SoftBank, que testa conversas em japonês; e o IAG, que estuda a aplicação da tecnologia para oferecer suporte durante períodos de alta demanda, como eventos climáticos severos.
Ao comentar a parceria, Daniel Ordaz, responsável pela transformação em inteligência artificial do BBVA no México, afirmou que a instituição participa do desenvolvimento da plataforma para explorar novas experiências de atendimento financeiro por voz.
“No BBVA, estamos trabalhando em estreita colaboração com a OpenAI para explorar como agentes confiáveis de atendimento podem ajudar a moldar o futuro dos serviços financeiros. Como parceiro de design do Presence, colaboramos para desenvolver e aperfeiçoar experiências de voz voltadas ao atendimento financeiro, com foco em oferecer interações mais rápidas, fluidas e personalizadas”, explicou Daniel Ordaz, Head de Transformação em IA do BBVA México, em declaração publicada pela OpenAI.
Antes da liberação para usuários, o Presence passa por simulações que incluem solicitações comuns, situações de exceção e cenários considerados de maior risco. A OpenAI explica que essas avaliações verificam se o agente alcançou o resultado esperado, respeitou as políticas estabelecidas, utilizou corretamente as ferramentas disponíveis e encaminhou casos para pessoas quando necessário.
Depois da implantação, indicadores de qualidade, registros das conversas e ocorrências de escalonamento continuam alimentando o processo de revisão. Conforme a empresa, o Codex analisa essas informações, propõe alterações e permite que cada atualização seja comparada com a versão em produção antes da aprovação definitiva.
A OpenAI informa que o Presence está disponível apenas para clientes corporativos elegíveis por meio de um programa de disponibilidade geral limitada. As implementações são conduzidas por engenheiros da própria empresa e por integradores globais selecionados. Até o momento, a plataforma não possui modalidade de contratação autônoma.
