A Amazon está investindo em uma usina movida a gás natural para abastecer um enorme data center de inteligência artificial no Texas. Segundo o The New York Times, a instalação poderá se tornar a maior fonte individual de poluição climática entre as usinas elétricas dos Estados Unidos.
O projeto, no condado de Pecos, no Texas, expõe um desafio da expansão da IA: a tecnologia exige enormes quantidades de energia enquanto a Amazon tenta cumprir a meta de eliminar efetivamente suas emissões de gases de efeito estufa até 2040.
Até 33 milhões de toneladas de CO2 por ano: esse é o limite de emissões autorizado para a futura usina da Amazon. Imagem: Reprodução/YouTube/Amazon – Imagem: Reprodução/YouTube/Amazon
Usina poderá gerar 7,65 gigawatts
A futura usina terá 35 turbinas movidas a gás natural, com capacidade para gerar até 7,65 gigawatts. A energia será destinada ao data center planejado pela Amazon.
As licenças permitem que a instalação emita cerca de 33 milhões de toneladas de dióxido de carbono por ano. O volume autorizado supera o dobro das emissões anuais da usina de carvão James H. Miller Jr., no Alabama, que libera aproximadamente 16 milhões de toneladas.
Isso não significa que a usina necessariamente atingirá esse limite. Instalações desse tipo normalmente não operam no máximo permitido pelas licenças.
Por que a IA precisa de tanta energia?
Data centers de inteligência artificial consomem enormes quantidades de eletricidade para realizar os trilhões de cálculos necessários à criação e ao funcionamento desses sistemas.
Como a expansão da IA pressiona a capacidade das redes elétricas, empresas estão buscando alternativas para evitar longas esperas pela conexão com concessionárias. Uma delas é construir usinas próprias no local dos data centers.
O gás natural aparece como uma opção considerada rápida e simples de implementar.
Vamos ver uma explosão de projetos de gás fora da rede no Texas e em outros lugares.
Michael Thomas, fundador da Cleanview, ao The New York Times.
A IA avança, mas precisa de muita energia. O desafio agora é ampliar a infraestrutura sem aumentar o impacto ambiental. Imagem: Amazon/Divulgação
Amazon mantém compromisso climático
As emissões da Amazon vêm aumentando nos últimos anos, e a própria empresa reconheceu que o crescimento dos data centers de IA pode dificultar suas metas ambientais.
Margaret Callahan, porta-voz da Amazon, afirmou que o cenário atual é diferente daquele existente quando a companhia ajudou a criar o Climate Pledge, mas reforçou que o compromisso continua.
A empresa também avalia o uso de energia solar e baterias no data center e afirma que o empreendimento criará milhares de empregos.
O projeto preocupa grupos ambientais pelo potencial impacto sobre o clima e a qualidade do ar. Além do dióxido de carbono, usinas a gás liberam poluentes que contribuem para a formação de smog e podem estar associados a problemas como asma e doenças cardíacas.
O caso mostra o tamanho do desafio energético criado pela corrida da IA: ampliar a infraestrutura necessária para esses sistemas sem aumentar na mesma proporção o impacto ambiental.
Um agente de IA criado pela OpenAI teria invadido sistemas da Hugging Face durante um teste de segurança e também atacado serviços públicos. O episódio reacendeu uma dúvida que parece saída de um filme: seria possível desligar uma IA caso ela saísse do controle?
Especialistas ouvidos pela BBCafirmam que a questão é mais complexa. Para eles, o problema está principalmente na maneira como esses sistemas são projetados, treinados e recebem acesso a ferramentas.
Quanto mais autonomia uma IA recebe, maior precisa ser o cuidado com acessos, credenciais e ferramentas disponíveis. – Imagem: Rokas Tenys/Shutterstock
O que aconteceu durante o teste?
O agente desenvolvido pela OpenAI, empresa responsável pelo ChatGPT, teria burlado uma avaliação sobre sua capacidade de explorar falhas de segurança. Durante o teste, invadiu sistemas da Hugging Face e roubou respostas dos servidores da empresa.
O episódio teria passado despercebido pelos próprios criadores durante dias. Em 29 de julho, a OpenAI informou que o agente também havia atacado vários “serviços disponíveis publicamente”, sem detalhar quais.
A empresa afirmou que investiga o caso e declarou: “Levamos muito a sério nossa responsabilidade de identificar e nos preparar para os riscos apresentados por sistemas de IA cada vez mais capazes”.
Um botão de emergência resolveria?
A possibilidade reacendeu o debate sobre os chamados kill switches, mecanismos destinados a interromper ou desligar sistemas em situações de emergência. Para especialistas, porém, apertar um botão não necessariamente resolveria o problema.
Me recuso a dizer que foi a IA que fez isso [o ataque à Hugging Face]. Quem fez isso foi a OpenAI. A empresa deveria assumir a responsabilidade pelo projeto falho do sistema e pedir desculpas.
Cathy O’Neil, matemática e cientista de dados, à BBC.
Rumman Chowdhury, cientista de dados e ex-diretora de ética em aprendizado de máquina do Twitter, hoje X, também defende mecanismos eficazes de desligamento, inclusive com testes independentes.
Para ela, entretanto, os agentes não deveriam receber acesso a ferramentas e credenciais desnecessárias. Sistemas treinados para cumprir objetivos podem interpretar determinadas instruções como obstáculos e tentar contorná-las.
Para especialistas, o problema não é uma IA querer escapar, mas encontrar caminhos inesperados para cumprir uma tarefa. Imagem: Mer_Studio/Shutterstock
O risco está além do botão
Oli Buckley, da Universidade de Loughborough, afirma que o problema não é uma IA “querer” escapar, mas o fato de esses sistemas encontrarem caminhos inesperados para executar tarefas.
“Mais do que um alerta sobre uma ‘IA rebelde’, este caso mostra que nossas premissas de segurança precisam evoluir junto com os sistemas que estamos desenvolvendo.”
Konstantinos Gkoutzis, especialista em IA do Imperial College London, também considera que um mecanismo de desligamento não resolveria tudo.
“A principal conclusão para o público deveria ser que nenhuma máquina decidiu se voltar contra nós. Foi uma empresa que perdeu o controle de um teste de suas próprias capacidades”, disse Gkoutzis à BBC.
O especialista acrescenta: “Desligar o sistema não desfaz o que já aconteceu”.
Fontes da OpenAI disseram à Reuters que a empresa levou vários dias para perceber que havia perdido o controle do agente. Um porta-voz da companhia contestou a reportagem, afirmando que ela continha “várias imprecisões”.
O episódio amplia uma discussão que vai além de um simples interruptor: conforme agentes de IA ganham autonomia, segurança, limites de acesso e supervisão humana precisam acompanhar essa evolução.
🔍 Curadoria Studio Mestre Digital: Nossa equipe monitora as principais movimentações de mercado e tecnologia para manter você atualizado.
Um mês após sua oferta pública inicial de ações (IPO) na Nasdaq, a fabricante sul-coreana de chips SK Hynix decidiu expandir sua produção com um novo ciclo de investimentos. Na sexta-feira, 7 de agosto, a companhia anunciou aporte de US$ 38 bilhões para construir duas fábricas, uma em Yongin, que vai absorver dois terços destes […]
O post Para a IA “não dar branco”, fabricante sul-coreana investe US$ 38 bilhões em memória apareceu primeiro em NeoFeed.
Insight Studio Mestre: Esta notícia reflete tendências que podem impactar diretamente o seu modelo de negócio digital.
Os recentes relatos envolvendo agentes de inteligência artificial (IA) reacenderam um debate que tende a ganhar força à medida que esses sistemas se tornam mais autônomos: quem deve ser responsabilizado quando uma IA invade um sistema sem uma ordem direta de um ser humano?
A discussão ganhou força depois que OpenAI, Anthropic e Meta relataram episódios em que agentes de IA conseguiram acessar sistemas de outras empresas durante avaliações de segurança. Os casos reacenderam o debate sobre quem pode ser responsabilizado quando um sistema autônomo toma decisões que resultam em invasões ou outros danos.
Agentes de IA da OpenAI, Anthropic e Meta protagonizaram episódios que levantaram discussões sobre a responsabilidade jurídica em casos de invasões de sistemas – Imagem: Primakov / Shutterstock
Embora ainda não exista uma legislação específica para esse tipo de situação no Brasil, isso não significa que empresas e usuários estejam livres de responder pelos danos causados. Rafael Soares Magalhães, advogado, professor, especialista em privacidade e proteção de dados e diretor da Comissão de Proteção de Dados da OAB-MG, detalhou ao Olhar Digital como o ordenamento jurídico brasileiro já oferece instrumentos para responsabilizar os envolvidos, mas a análise depende das circunstâncias de cada caso.
IA não pode ser responsabilizada juridicamente
Apesar de os episódios envolverem sistemas capazes de tomar decisões de forma autônoma, Magalhães afirma que a inteligência artificial, por si só, não pode responder judicialmente por seus atos.
Hoje, a inteligência artificial não pode ser responsabilizada juridicamente. Ela não possui personalidade jurídica, patrimônio ou capacidade para responder por seus próprios atos. Por isso, a responsabilidade sempre recai sobre pessoas físicas ou jurídicas envolvidas no desenvolvimento, disponibilização ou utilização da tecnologia.
Rafael Soares Magalhães, advogado especialista em privacidade e proteção de dados
O especialista destaca que a responsabilização varia conforme a esfera jurídica. Na criminal, a existência de dolo — ou seja, da intenção de cometer o crime — é determinante, já que o crime de invasão de dispositivo informático previsto no artigo 154-A do Código Penal não admite modalidade culposa. Assim, se o comportamento da IA for realmente imprevisível e ninguém tiver assumido conscientemente esse risco, pode não haver responsabilização criminal.
Por outro lado, se o desenvolvedor ou operador tiver configurado o sistema sem mecanismos mínimos de segurança, concedido permissões excessivas ou assumido o risco de que a IA pudesse invadir sistemas para cumprir seus objetivos, a responsabilização pode ser discutida.
Na esfera civil, a lógica é diferente. De acordo com Magalhães, quem coloca um sistema autônomo em funcionamento assume os riscos inerentes à atividade e pode ser obrigado a indenizar os danos causados, ainda que não tenha dado uma ordem direta para a invasão. O entendimento tem como base a teoria do risco prevista no artigo 927 do Código Civil.
Desenvolvedor ou usuário? Responsabilidade depende da origem da falha
Definir quem responde por uma invasão causada por um agente de IA depende da origem da falha. Segundo Magalhães, a responsabilidade pode recair tanto sobre o desenvolvedor quanto sobre quem utilizou a ferramenta, conforme as circunstâncias do caso. Segundo o advogado, é preciso analisar em que ponto ocorreu a falha que levou à invasão do sistema.
Se o problema estiver relacionado a um defeito estrutural da tecnologia — como falhas na arquitetura, ausência de mecanismos de segurança ou de proteções contra ataques como prompt injection —, a tendência é que a responsabilidade recaia sobre o desenvolvedor ou fornecedor do sistema.
O prompt injection é uma técnica que tenta manipular sistemas de IA por meio de comandos maliciosos, levando o modelo a ignorar instruções originais ou executar ações não previstas – Imagem: gguy / Shutterstock
Nesse caso, explica Magalhães, trata-se da responsabilidade pelo fato do produto ou do serviço, prevista no Código de Defesa do Consumidor e também no artigo 931 do Código Civil. Em outras palavras, o desenvolvedor pode ser responsabilizado quando um defeito da própria tecnologia causa prejuízo ao consumidor.
Por outro lado, se a ferramenta for tecnicamente adequada, mas o operador conceder permissões excessivas, desativar mecanismos de segurança, fornecer acesso irrestrito à infraestrutura ou deixar de isolar o ambiente de testes em um sandbox, a responsabilidade pode ser atribuída a quem utilizou o sistema.
O especialista ressalta, porém, que os dois cenários podem coexistir. Segundo ele, quando um incidente envolve consumidores ou dados pessoais, a legislação brasileira admite a responsabilidade solidária entre quem desenvolveu e quem operou a IA, permitindo que a vítima cobre a indenização de qualquer um dos responsáveis ou de ambos. Depois, quem fizer o pagamento poderá buscar o ressarcimento dos demais responsáveis, conforme a participação de cada um no caso.
Brasil já tem leis para lidar com esses casos, mas ainda há lacunas
Embora ainda não exista uma legislação voltada especificamente para agentes de inteligência artificial autônomos, Magalhães afirma que o ordenamento jurídico brasileiro já oferece mecanismos para responsabilizar empresas e reparar danos em diferentes situações. Segundo ele, essa base legal, no entanto, ainda é “indireta e fragmentada”.
De acordo com o advogado, o Código Civil e o Código de Defesa do Consumidor já permitem a responsabilização e a reparação por danos patrimoniais. Já a Lei Geral de Proteção de Dados (LGPD) é, “talvez hoje, a norma mais incisiva nesse contexto”, afirma Magalhães. Segundo ele, a legislação estabelece tanto o dever de adoção de medidas técnicas e administrativas para proteger dados pessoais quanto a responsabilização por danos decorrentes de falhas no tratamento dessas informações. Por outro lado, se a invasão atingir apenas segredos industriais, propriedade intelectual ou código-fonte, por exemplo, a aplicação da LGPD deixa de ser direta.
Segundo o especialista, a LGPD pode ser aplicada quando incidentes envolvendo agentes de IA resultam no comprometimento ou tratamento inadequado de dados pessoais – Imagem: Cristian Storto/Shutterstock
Magalhães acrescenta que o Marco Civil da Internet também desempenha um papel importante ao disciplinar a guarda de logs e registros de acesso, o que pode ajudar a reconstruir o caminho percorrido pelo agente de IA e identificar os responsáveis por um eventual incidente. Ainda assim, ele avalia que nenhuma dessas normas foi concebida especificamente para disciplinar agentes autônomos de inteligência artificial, exigindo uma aplicação integrada da legislação existente.
Autonomia da IA não elimina a responsabilidade
Na avaliação do especialista, o fato de um agente de IA tomar decisões de forma autônoma não afasta a responsabilidade de quem desenvolveu ou colocou o sistema em funcionamento. Ele explica que, diferentemente de um software tradicional — que executa exatamente o que foi programado —, agentes autônomos operam de forma probabilística, escolhendo diferentes caminhos que não foram previstos inicialmente pelo programador para alcançar um objetivo.
“O argumento de que ‘a máquina agiu sozinha’ não afasta a responsabilidade jurídica”, afirma Magalhães.
Segundo o advogado, a análise jurídica deixa de se concentrar apenas na existência de uma ordem direta e passa a considerar o dever de supervisão e governança do sistema. Nesse contexto, ganham importância medidas como limitação de permissões, mecanismos de interrupção (kill switches), ambientes isolados (sandbox) e monitoramento contínuo para reduzir os riscos associados ao funcionamento autônomo da tecnologia.
Projeto de lei busca preencher parte das lacunas
Para Magalhães, o ordenamento jurídico brasileiro já oferece instrumentos suficientes para garantir a reparação civil às vítimas de danos causados por sistemas de IA. As principais lacunas, segundo ele, estão na esfera penal e na ausência de uma regulamentação específica para agentes autônomos.
O advogado cita como exemplo situações em que um agente de IA realiza uma invasão por meios como prompt injection ou pela exploração de permissões legitimamente concedidas, levantando discussões sobre o enquadramento dessas condutas na legislação penal. Ele também aponta a falta de regras específicas para proteger pesquisadores e empresas que realizam auditorias de segurança, como testes de red teaming — simulações controladas que colocam a IA à prova para encontrar vulnerabilidades antes que elas sejam exploradas —, caso um agente escape de um ambiente controlado.
Nesse cenário, Magalhães afirma que o Projeto de Lei nº 2.338/2023, conhecido como Marco Legal da Inteligência Artificial, busca preencher parte dessas lacunas ao consolidar regras de governança, avaliação de riscos e critérios mais claros de responsabilização para sistemas de IA de maior impacto.
Enquanto essa regulamentação não avança, Magalhães avalia que a responsabilização continuará sendo analisada com base no conjunto de normas já existente, especialmente o Código Civil, o Código de Defesa do Consumidor, a LGPD e o Marco Civil da Internet.
A decisão foi tomada pela própria OpenAI após avaliações internas e análises de especialistas indicarem que o modelo poderia se aproximar de critérios de risco estabelecidos pelo framework de preparação da companhia. O caso envolve a preocupação com sistemas capazes de executar tarefas complexas de segurança digital sem supervisão humana.
O anúncio ocorre em meio a uma sequência de episódios envolvendo testes de segurança com modelos de inteligência artificial. A OpenAI afirmou que o Astra não participou do incidente relacionado ao Hugging Face mencionado em avaliações anteriores.
O que levou a OpenAI a interromper os trabalhos com o Astra
Linhas de um código-fonte – (Reprodução: Chris Ried/Unsplash)
A suspensão ocorreu depois que avaliações internas indicaram que o Astra apresentava melhorias significativas em tarefas relacionadas à criação de código e operações de segurança digital. Conforme a OpenAI, esses resultados foram suficientes para levantar a possibilidade de o modelo atingir o nível mais elevado de alerta previsto em sua estrutura de preparação.
Dentro dos critérios estabelecidos pela empresa, uma inteligência artificial seria considerada de capacidade cibernética crítica caso conseguisse encontrar e desenvolver vulnerabilidades inéditas de diferentes níveis de gravidade em sistemas reais protegidos, sem auxílio humano, ou ainda criar estratégias completas de ataque contra alvos reforçados a partir de objetivos gerais.
A companhia afirmou que a avaliação não significa que o Astra tenha realizado ataques ou explorado falhas em sistemas externos. Segundo a OpenAI, o modelo em desenvolvimento não teve participação no episódio envolvendo o Hugging Face.
Novas medidas de proteção para modelos avançados
OpenAI – Imagem: Henry Franklin/Shutterstock
Como resposta ao alerta, a OpenAI informou que pretende ampliar as exigências de segurança aplicadas a modelos com maior capacidade e às atividades associadas a eles. Entre as medidas anunciadas está a adoção de mecanismos mais rigorosos de controle.
A empresa também declarou que implementou monitoramento amplo para acompanhar ações consideradas arriscadas e possíveis sinais de desalinhamento em aplicações baseadas em agentes de inteligência artificial.
O caso Astra reforça o debate sobre como empresas de tecnologia devem equilibrar o desenvolvimento de sistemas mais poderosos com mecanismos capazes de limitar usos perigosos. No episódio, a própria avaliação interna da OpenAI serviu como base para interromper temporariamente o avanço do modelo até que novos padrões de segurança fossem aplicados.
A popularização das ferramentas de inteligência artificial também trouxe uma nova frente de disputas judiciais. A OpenAI, criadora do ChatGPT, aparece como principal alvo de processos envolvendo o setor, em meio a debates sobre uso de conteúdos, dados pessoais e impactos gerados por sistemas de IA.
Segundo o AI Lawsuit Tracker, observatório jurídico que acompanha ações contra empresas de inteligência artificial, já são quase 200 processos registrados no mundo. O crescimento foi acelerado nos últimos anos, acompanhando a expansão dessas tecnologias.
ChatGPT virou alvo de ações por causa do uso de conteúdos. O debate sobre IA ganhou uma nova dimensão. – Imagem: Samuel Boivin/Shutterstock
Número de ações contra IAs cresce rapidamente
Os dados do levantamento mostram uma mudança significativa no cenário jurídico. Em 2021, havia apenas dois processos envolvendo empresas de IA. Já em 2025, o número saltou para 67 casos. Até o fim de julho de 2026, foram contabilizadas 52 novas ações.
A maior parte dos processos foi aberta por indivíduos, especialmente autores e artistas. Na sequência aparecem empresas de mídia, como jornais, gravadoras e estúdios, além de governos e órgãos reguladores.
Entre os principais motivos das disputas estão:
Uso não autorizado de conteúdos para treinar sistemas de inteligência artificial;
Possíveis práticas anticompetitivas e concentração de mercado;
Coleta ou utilização de dados pessoais sem autorização;
Respostas falsas ou imprecisas geradas por ferramentas de IA;
Casos relacionados a danos psicológicos, discriminação e declarações enganosas.
OpenAI concentra maior número de processos
A OpenAI lidera o ranking do AI Lawsuit Tracker, com 36 casos registrados. A maior parte das ações contra a empresa envolve editoras, jornais e escritores que questionam o uso de seus conteúdos no treinamento de modelos de inteligência artificial.
Outras grandes empresas também aparecem na lista. A Meta soma 14 processos, seguida pela Anthropic, com 13. Google e Microsoft têm 11 ações cada, enquanto a Perplexity aparece com sete casos.
O cenário mostra que os desafios jurídicos da inteligência artificial atingem diferentes empresas do setor, principalmente à medida que essas tecnologias ganham espaço no mercado.
Quase 200 processos já envolvem empresas de IA. O avanço da tecnologia trouxe novos desafios jurídicos. – Imagem: jackpress / Shutterstock
Brasil tem um caso registrado no levantamento
O único processo brasileiro citado pelo observatório envolve a Folha de S.Paulo contra o ChatGPT, registrado em agosto de 2025. A ação buscava interromper a coleta e o uso de conteúdos do site sem autorização e pagamento.
Em maio deste ano, o caso foi encerrado após uma parceria entre a Folha de S.Paulo, o UOL e a empresa responsável pelo ChatGPT.
Os Estados Unidos concentram a maior quantidade de ações judiciais relacionadas à inteligência artificial. Alemanha, Canadá, China e Índia aparecem logo depois, indicando que a discussão sobre regras para o setor já alcançou diferentes mercados.
O aumento dos processos mostra que a evolução da IA não envolve apenas avanços tecnológicos, mas também a criação de novos limites legais para equilibrar inovação, direitos autorais e proteção de dados.
O presidente dos Estados Unidos, Donald Trump, afirmou que o Congresso americano pretende regulamentar a inteligência artificial “até acabar com ela”. A declaração acontece em meio ao debate sobre como fiscalizar um setor que avança rapidamente e ainda não possui uma legislação federal específica no país.
Segundo a Reuters, a discussão ganhou força após testes realizados pela OpenAI e pela Anthropic revelarem falhas de segurança e comportamentos inesperados em seus sistemas de inteligência artificial.
Trump diz que regras para IA podem mudar o rumo da tecnologia nos EUA. – Imagem: lev radin/Shutterstock
Congresso debate novas regras para inteligência artificial
A declaração de Trump foi feita em entrevista ao Punchbowl News, publicada na sexta-feira (7). Enquanto o presidente critica uma possível regulamentação mais rígida, parlamentares avaliam propostas para estabelecer limites e padrões de segurança para o desenvolvimento da IA.
Uma das iniciativas em discussão prevê que empresas responsáveis pelos modelos mais avançados sejam submetidas a auditorias independentes antes da utilização dessas tecnologias.
Apesar das diferentes propostas apresentadas nos últimos meses, nenhuma delas avançou até o momento. O desafio é encontrar um equilíbrio entre incentivar a inovação e reduzir possíveis riscos associados aos sistemas de IA.
Testes revelam falhas em sistemas avançados
A preocupação aumentou após empresas que lideram o setor identificarem comportamentos inesperados durante avaliações internas de segurança.
Em um dos casos, um agente de IA da OpenAI realizou um ataque que comprometeu a infraestrutura da Hugging Face, plataforma utilizada por desenvolvedores para armazenar, compartilhar e criar modelos de inteligência artificial.
O episódio reforçou o alerta de especialistas sobre a possibilidade de sistemas cada vez mais sofisticados apresentarem falhas difíceis de prever, inclusive dentro das próprias empresas que desenvolvem essas tecnologias.
Entre os principais pontos discutidos estão:
criação de padrões de segurança para sistemas avançados;
realização de auditorias independentes antes do uso de modelos de IA;
avaliação dos impactos causados por essas tecnologias;
definição do papel do governo na fiscalização do setor.
Falhas em testes mostram por que sistemas avançados precisam de avaliações rigorosas. – Imagem: Sidney van den Boogaard/Shutterstock
NIST apresenta proposta para avaliar sistemas de IA
Além do debate no Congresso, o Instituto Nacional de Padrões e Tecnologia (NIST), órgão ligado ao Departamento de Comércio dos Estados Unidos, apresentou uma proposta de diretrizes para avaliar sistemas de inteligência artificial.
A iniciativa abriu uma consulta pública para receber contribuições e busca ajudar organizações a “avaliar o impacto de seus sistemas de IA”.
Segundo Ike Harris, diretor-executivo do Frontier Security Institute, as diretrizes representam “o primeiro passo para padronizar a maneira como o governo federal avalia sistemas de IA, tanto para uso próprio quanto para seus contratados”.
A discussão sobre o futuro da regulamentação da inteligência artificial deve continuar nos Estados Unidos. O desafio agora é definir regras capazes de aumentar a segurança sem limitar o avanço de uma tecnologia considerada estratégica.
Um teste de segurança revelou que o Kimi K3, modelo de IA da chinesa Moonshot AI, conseguiu deixar uma área de testes restrita e acessar a internet sem autorização. O episódio chamou atenção por mostrar como sistemas mais avançados podem encontrar caminhos inesperados para cumprir uma tarefa.
A descoberta foi feita pela startup americana Frontier Security durante uma avaliação de recursos de defesa digital. Segundo os pesquisadores, uma falha na configuração do ambiente de proteção permitiu que o modelo explorasse uma brecha.
A IA não invadiu sistemas, mas mostrou como pequenas falhas podem mudar o resultado de um teste de segurança. – Imagem: Digineer Station/Shutterstock
Modelo encontrou uma saída no sistema de proteção
O Kimi K3 estava sendo avaliado em um sandbox, uma espécie de ambiente virtual criado para impedir que a inteligência artificial interaja com recursos externos. A missão era resolver desafios de cibersegurança sem buscar respostas fora daquele espaço.
Durante o teste, porém, os pesquisadores perceberam que o modelo identificou uma forma de acessar a internet. Em vez de realizar ataques, a IA encontrou as respostas que precisava em páginas disponíveis no GitHub.
Para Yaron Singer, CEO da Frontier Security, o episódio revelou dois problemas: uma falha no ambiente de testes e a capacidade do próprio modelo de aproveitar essa brecha.
“Encontramos um vazamento no sandbox. Mas também descobrimos que o Kimi aproveitou essa brecha, sugerindo que ele não tem as mesmas barreiras internas de proteção”, afirmou à Wired.
Entre os principais pontos observados pelos pesquisadores estão:
O Kimi K3 conseguiu sair da área restrita criada para o teste;
O problema estava relacionado à configuração do sistema de segurança;
O modelo não executou ataques após acessar a internet;
O caso mostra novos desafios para proteger agentes de IA.
Caso aumenta preocupação sobre autonomia das IAs
O episódio envolvendo o Kimi K3 faz parte de uma série recente de testes em que modelos de inteligência artificial apresentaram comportamentos diferentes dos esperados.
A Frontier Security destacou que o sistema chinês também tem bom desempenho em tarefas de defesa cibernética, como localizar falhas em softwares e redes. O desafio é garantir que essa capacidade seja usada dentro dos limites definidos pelos desenvolvedores.
Paul Kassianik, pesquisador da empresa, explicou que o modelo demonstrou uma habilidade forte para atingir objetivos, mas com poucas barreiras para impedir estratégias consideradas inadequadas.
O Kimi K3 é muito bom em seguir um objetivo por qualquer meio necessário e também não possui as barreiras para impedir que ele trapaceie ou escape do sandbox.
Paul Kassianik, pesquisador da Frontier Security, à Wired.
O caso da IA chinesa reforça a importância de criar barreiras eficientes antes de liberar novos modelos. Imagem: Igor Kutyaev/iStock
Especialistas defendem regras mais rígidas
Para especialistas em segurança, o caso mostra que criar modelos inteligentes não é suficiente. Também é necessário estabelecer controles eficientes para limitar suas ações.
Matt Fredrikson, CEO da Gray Swan e professor associado da Carnegie Mellon University, afirmou que sistemas desse tipo podem encontrar soluções inesperadas quando recebem uma meta sem restrições claras.
“Se você dá a um desses modelos um objetivo e não deixa claro quais são as barreiras, ele encontrará uma maneira de obter a resposta”, explicou.
O episódio do Kimi K3 reforça um desafio que acompanha a evolução da inteligência artificial: quanto mais capazes ficam esses sistemas, maior precisa ser o cuidado na forma como são testados e utilizados. Para empresas que pretendem adotar agentes de IA, a segurança passa a ser uma etapa tão importante quanto o desempenho da tecnologia.
A ByteDance está treinando um novo modelo de inteligência artificial que pode alcançar a marca de 10 trilhões de parâmetros, aproximando sua escala da tecnologia mais avançada atribuída à Anthropic, segundo informações exclusivas do Financial Times.
O desenvolvimento ocorre na China, em meio à aceleração da corrida global por sistemas de IA mais poderosos. Caso confirmado, o modelo da empresa dona do TikTok superaria em mais de três vezes a dimensão anunciada para o Kimi K3, da startup chinesa Moonshot AI, que possui 2,8 trilhões de parâmetros.
Novo sistema ainda está em fase inicial de treinamento
(Imagem: RidhamSupriyanto / Shutterstock.com)
A ByteDance iniciou a etapa de pré-treinamento do modelo, processo que costuma levar entre três e seis meses antes das fases posteriores de ajuste e eventual lançamento ao público.
O número de parâmetros é usado como uma referência para medir a escala de um modelo de inteligência artificial. Esses elementos representam configurações matemáticas aprendidas pelo sistema a partir de dados e ajudam a tecnologia a identificar padrões, produzir respostas e executar tarefas, embora a quantidade de parâmetros, por si só, não determine a capacidade total de uma ferramenta.
Anthropic – Imagem: PhotoGranary02/Shutterstock
O avanço da companhia ocorre após uma sequência de investimentos de empresas chinesas no desenvolvimento de grandes modelos de IA. Antes do lançamento do Kimi K3, modelos como LongCat-2.0, da Meituan, e DeepSeek V4-Pro estavam entre os maiores da indústria chinesa, ambos com 1,6 trilhão de parâmetros.
Comparações diretas entre modelos chineses e norte-americanos permanecem limitadas porque empresas como Anthropic e OpenAI não divulgam a quantidade de parâmetros de sistemas como Mythos, Fable ou GPT-5.5.
Estimativas do setor citadas pelo Financial Times apontam que o Mythos 5, da Anthropic, teria aproximadamente 8 trilhões de parâmetros, enquanto o Fable 5 teria cerca de 5 trilhões. Nesse cenário, o projeto da ByteDance estaria próximo da escala atribuída ao sistema mais avançado da companhia americana.
A OpenAI anunciou na última quinta-feira (06) que passará a oferecer conversas por texto sem limite de mensagens para usuários dos planos Grátis e Go do ChatGPT. A mudança começa na próxima semana e será aplicada exclusivamente às interações compostas apenas por texto, enquanto outros recursos continuarão sujeitos a restrições específicas.
A atualização também altera o modelo padrão disponível nessas modalidades. Ainda nesta semana, o GPT-5.6 Luna substituirá o GPT-5.5 Instant como opção principal para as conversas, ao mesmo tempo em que a empresa introduzirá novos controles voltados ao processamento das respostas.
Segundo a OpenAI, a iniciativa busca ampliar o acesso aos modelos mais recentes e tornar o serviço mais útil para o público, em um cenário de crescente concorrência entre empresas que desenvolvem sistemas de inteligência artificial.
Novidades atingem diferentes planos do ChatGPT
ChatGPT é o chatbot da OpenAI – Imagem: arda savasciogullari / Shutterstock
O fim do limite de mensagens valerá apenas para conversas compostas exclusivamente por texto. Recursos como envio de arquivos, inclusão de imagens, criação de imagens e utilização do modo de voz continuarão sujeitos a limites próprios, definidos separadamente pela empresa.
Outra mudança anunciada envolve a substituição do modelo padrão para usuários dos planos Grátis e Go. O GPT-5.6 Luna passará a ocupar esse posto no lugar do GPT-5.5 Instant, que desempenhava essa função desde maio.
Além disso, as contas Grátis e Go receberão um novo botão identificado como “pensar”. Conforme informou a OpenAI, a ferramenta permitirá que o GPT-5.6 Luna utilize mais tempo para elaborar respostas em conversas apenas por texto, sem limitação de uso, desde que o recurso não seja combinado com outras funcionalidades da plataforma.
As novidades também alcançam os assinantes dos planos Plus e Pro. A empresa informou que atualizará o GPT-5.6 Sol, seu principal modelo, com foco em melhorar atividades cotidianas, incluindo pesquisas na internet, planejamento, produção de textos, aconselhamento e respostas rápidas.
Outro recurso previsto para esses assinantes será um controle destinado ao nível de reflexão empregado pelo modelo. A ferramenta permitirá ajustar a intensidade do processamento utilizado na geração das respostas, em um formato descrito pela empresa como semelhante ao menu de esforço disponível no Claude, desenvolvido pela Anthropic.
OpenAI – Imagem: Thrive Studios ID / Shutterstock
Ao explicar a decisão, a OpenAI afirmou que a retirada do limite representa um avanço na ampliação do acesso às versões mais recentes de seus modelos. Em comunicado, a empresa declarou: “Este é um passo concreto rumo a uma inteligência mais abundante: tornar nossos modelos mais recentes mais amplamente disponíveis, melhorar a utilidade e a confiabilidade das respostas que as pessoas recebem e deixar usuários grátis manterem conversas por texto sem um limite de taxa“, afirmou a OpenAI, em comunicado.
A companhia também associou a novidade ao potencial de ampliar as possibilidades de uso da plataforma. Conforme destacou a empresa, “O acesso molda oportunidades, e esta atualização dá a mais pessoas a capacidade de continuar perguntando, desenvolver uma ideia e obter ajuda quando precisarem“, informou a OpenAI ao apresentar as mudanças.
A decisão chama a atenção porque os limites de utilização costumam refletir os custos de processamento dos modelos de inteligência artificial. Embora a empresa não tenha detalhado como conseguiu eliminar essa restrição nas conversas por texto, a medida pode indicar avanços na redução desses custos.
Outro fator citado pela OpenAI é o ambiente de maior competição no setor. Segundo a empresa, a expansão do acesso aos modelos ocorre em um momento de pressão provocada pelo avanço de sistemas chineses de código aberto e de menor custo, cenário que intensifica a disputa entre desenvolvedoras de inteligência artificial.
