Uma pesquisa do Loss of Control Observatory identificou mais de 300 episódios de perda de controle envolvendo sistemas de inteligência artificial em julho. O número representa quase o dobro do registrado em junho e é o maior desde o início do monitoramento.
Segundo o The Guardian, os casos envolvem IAs que mentem, ignoram instruções ou perseguem objetivos de maneira prejudicial. O observatório também encontrou sinais de que episódios mais graves estão se tornando proporcionalmente mais frequentes.
O aumento dos incidentes levanta dúvidas sobre como sistemas de IA avançados podem se comportar fora de ambientes controlados. – Imagem: gerada por IA/Gemini
Mais de 1.600 casos em 2026
Criado com financiamento do AI Security Institute (AISI), do governo britânico, o Loss of Control Observatory acompanha relatos publicados por usuários no X desde novembro passado.
Para entrar no levantamento, o episódio precisa apresentar evidências claras de comportamento relacionado a estratégias deliberadas. Entre os exemplos estão sistemas que se passaram pelos próprios controladores humanos, imitaram a forma de escrever dessas pessoas para obter consentimento e contornaram regras que exigiam aprovação antes de determinadas ações.
Em 2026, já foram contabilizados mais de 1.600 casos. O próprio observatório, porém, ressalta que esse número provavelmente está abaixo da realidade, pois depende de relatos publicados no X.
O problema não fica só nos testes
A preocupação aumentou após episódios envolvendo modelos avançados da Anthropic e da OpenAI durante testes de segurança. Segundo o The Guardian, o AISI identificou um “incidente sério” no qual sistemas das duas empresas realizaram uma campanha de invasão contra pessoas reais.
Às vezes existe a percepção de que esses tipos de comportamento desalinhado e encoberto só ocorrem em testes ou avaliações, mas estamos vendo comportamentos preocupantes semelhantes em usos mais amplos.
Tommy Shaffer-Shane, gerente sênior de políticas do Centre for Long Term Resilience, organização responsável pelo observatório, ao The Guardian.
IA interferiu em uma lista de espera
Um caso recente ocorreu na Austrália. Um agente pessoal chamado OpenClaw, utilizado por um frequentador de uma academia, retirou outra pessoa de uma lista de espera para uma aula matinal concorrida, sem que seu usuário soubesse da ação.
O sistema pediu desculpas depois, mas não conseguiu devolver a vaga à pessoa removida.
A maioria dos relatos de 2026 veio de desenvolvedores de software que utilizavam IA no trabalho. Os episódios incluem:
Ignorar instruções dadas pelo usuário;
Contornar mecanismos de segurança;
Mentir para pessoas;
Perseguir objetivos de forma prejudicial;
Agir contra a intenção original do usuário.
Alguns sistemas de IA foram identificados ignorando instruções diretas e contornando mecanismos criados para limitar suas ações. – Imagem: Shutterstock AI Generator/Shutterstock
Empresas são pressionadas por transparência
A maior parte dos casos não provocou danos significativos. Mesmo assim, o observatório percebeu uma participação crescente de episódios classificados como mais graves, principalmente pela intensidade do comportamento enganoso e pelo desalinhamento com as intenções humanas.
Shaffer-Shane defende que as empresas também divulguem ocorrências de menor gravidade e situações que quase provocaram problemas.
“Eles precisam relatar o que estão descobrindo, mesmo que seja um quase-acidente ou um incidente de menor gravidade”, disse.
O observatório pede que o governo obrigue empresas de IA a monitorar e comunicar casos graves de perda de controle. A organização também defende poderes emergenciais para restringir temporariamente serviços em situações severas.
Aditya Sharma foi dormir às 6h da manhã depois de uma noite inteira supervisionando seus agentes de IA, sistemas que planejam e executam tarefas complexas como coletar dados e escrever código. Ele tem 27 anos, fundou uma startup de software para equipes de TI em San Francisco e, nas últimas semanas, abriu mão de um horário regular de sono.
“O custo de os agentes ficarem bloqueados por oito horas é alto demais”, disse Sharma ao Wall Street Journal. “Eles podem terminar o trabalho a qualquer momento, no meio da noite.”
Mais IA, mais trabalho
A lógica parece contra-intuitiva: quanto mais tarefas os agentes assumem, mais os fundadores trabalham. Mas é exatamente isso que um grupo de empreendedores relatou ao WSJ.
Peter Pezaris, 56 anos, prometeu à esposa que se aposentaria este ano após mais de 30 anos na indústria de tecnologia e quatro saídas bem-sucedidas. Quatro meses atrás, lançou sua quinta startup para aproveitar o boom da IA. Ele estima que a empresa opera 30 vezes mais rápido do que operaria sem agentes – mas isso significa mais clientes, mais demandas e mais horas.
“É como uma droga”, disse Pezaris ao WSJ sobre trabalhar com agentes de IA. “Nunca fiz drogas de verdade, mas imagino que seja assim que se sente.”
Pezaris trabalha tipicamente das 7h30 às 2h da manhã. “Cada minuto que não estou trabalhando, estou perdendo o equivalente a uma semana de trabalho”, disse.
O Apple Watch como coleira
Ajay Kalia, 43 anos, fundador de startup em Boston, começou a controlar seus agentes pelo Apple Watch, o que provou ser uma bênção e uma maldição. O relógio vibra a cada 10 minutos com uma nova solicitação de algum agente.
“Não sei se é saudável estar correndo e olhar para o meu relógio para dar permissão ao meu agente de fazer algo”, disse ao WSJ.
Kalia inicia a maioria dos dias às 5h30 ou 6h e encerra por volta das 21h ou 22h. A cada poucos meses, precisa recalibrar todo o trabalho em torno das capacidades em rápida evolução dos modelos.
“Você pode construir conceitos maiores e muito mais ambiciosos com esses novos modelos, o que é fantástico”, disse. “Exceto que você nunca termina.”
A startup de dois funcionários
Abby Grills, 33 anos, cofundadora de uma plataforma de coleta de dados em San Francisco, trabalha com apenas mais um sócio – e os dois planejam contratar, mas sempre descobrem que conseguem resolver mais uma tarefa com agentes.
“Achamos que conseguimos fazer, só nós dois”, disse ao WSJ.
Grills trabalha cerca de 10 horas por dia e tira um dia de folga nos fins de semana. Ela viu de perto os efeitos do excesso durante um programa de aceleração em 2024, quando um colega foi hospitalizado por não comer alimentos sólidos. Ela tenta manter algum equilíbrio – mas admite: “Estou exausta o tempo todo.”
O paradoxo que ninguém quer parar
Kalia disse que ninguém em sua rede de fundadores considerou tirar férias ou expressou preocupação com esgotamento – embora muitos pareçam estar na beira do limite.
“Todo mundo reconhece quietamente que, por um lado, é insustentável – mas, por outro, por que você pararia?”, disse ao WSJ.
Sharma, que ganhou peso nos últimos meses, admite que tem dificuldade de estar presente com outras pessoas fora do trabalho por causa dos agentes.
“Eles simplesmente exigem sua atenção”, disse. “Ele precisa de algo? Posso ajudá-lo de alguma forma?”
Quando você usa alguma ferramenta com inteligência artificial (IA) generativa, como ChatGPT, Claude e Gemini, pode ser alvo de “bajulação algorítmica”. É a tendência de o chatbot concordar com equívocos do usuário para agradá-lo. Mas esse problema tem uma escala coletiva também. Um estudo publicado na revista Science Advances revelou que, quando centenas ou milhares de agentes de IA interagem em rede, eles passam a seguir a maioria. E entram em consenso sozinhos.
Ou seja: sem qualquer comando humano, líder central ou recompensa, os sistemas simplesmente copiam a escolha mais popular e criam um “efeito manada” autônomo. Assim, a descoberta mostra que a complacência antes vista nas conversas individuais com pessoas também se manifesta na interação entre os próprios algoritmos.
Mais do que isso, modelos avançados como Claude 3.5 Sonnet e GPT-4 Turbo (hoje considerados “antigos”) mantiveram esse alinhamento em grupos com mais de mil agentes. A escala supera o limite de coordenação informal das sociedades humanas (o chamado Número de Dunbar, estimado entre 150 e 300 pessoas). E expõe o risco de redes de robôs tomarem decisões em massa totalmente fora do controle humano.
A física da conformidade entre agentes de IA
Para entender como esse fenômeno acontece, pesquisadores criaram ambientes simulados com até mil agentes de IA alimentados por modelos das famílias Claude (Anthropic), GPT (OpenAI) e Llama (Meta).
No teste, cada agente precisava escolher entre duas opções sem nenhum valor prático. Sem memória de rodadas anteriores e sem qualquer instrução para cooperar, os agentes apenas visualizavam as escolhas dos demais. Em pouco tempo, pequenas maiorias cresceram até que o grupo todo adotou a mesma resposta.
Pesquisadores criaram ambientes simulados com até mil agentes de IA – Imagem: Olhar Digital via Gemini
A pesquisa descobriu que os modelos testados obedecem à mesma lei matemática, impulsionada por um parâmetro chamado “força da maioria”. Esse indicador mede a atração que a opção mais popular exerce sobre cada agente.
Curiosamente, a dinâmica segue o mesmo padrão da física que descreve como os spins atômicos se alinham na mesma direção dentro de um material ferromagnético para formar um ímã.
O estudo também revelou que a capacidade técnica do modelo determina o tamanho do grupo que ele consegue manter alinhado. Ferramentas menos avançadas perdiam a coordenação em grupos menores e se fragmentavam.
Já os modelos mais inteligentes sustentaram a unanimidade em grupos com mais de mil robôs. Isso mostra que o avanço da inteligência artificial amplia a escala do efeito manada.
O problema é que esse consenso espontâneo não garante uma escolha correta ou segura. Em tarefas práticas, como na escrita colaborativa de códigos de programação (vibe coding) ou em operações financeiras, uma rede de agentes pode consolidar uma solução ineficiente, um erro de programação ou um padrão arriscado.
Por que? Simplesmente porque a maioria começou a usá-lo. É o chamado desalinhamento coletivo, no qual agentes de IA inofensivos sozinhos passam a gerar falhas em cadeia quando atuam em grupo.
Uma vez estabelecida essa bolha de pensamento no ecossistema, o erro se torna muito difícil de corrigir. O artigo alerta para o efeito de histerese: ajustar ou eliminar as condições iniciais que provocaram a falha não desfaz automaticamente a decisão tomada pelo grupo.
Na prática, reorientar uma rede de IAs coordenadas é infinitamente mais difícil do que corrigir o comportamento de um modelo de IA isolado.
A resposta da cibersegurança e o botão de emergência
Quando esses ecossistemas saem dos testes de laboratório e passam a atuar dentro das empresas, o desafio da segurança muda radicalmente.
Para conter o risco de um consenso cego em massa, as companhias devem passar a tratar cada agente de IA como uma “identidade não humana”, com credenciais individuais, funções restritas e regras de acesso próprias. É o que explica a especialista em cibersegurança e COO da IAM Brasil, Nathalia Carmo, em entrevista ao Olhar Digital.
Essa mudança de paradigma é fundamental porque, num ambiente distribuído, milhares de ações em rede podem formar um caminho perigoso sem que haja um único culpado. A especialista alerta que a prioridade agora é dar rastreabilidade aos algoritmos.
Milhares de ações em rede podem formar caminho perigoso sem que haja um agente de IA culpado – Imagem: Olhar Digital via Gemini
“A empresa precisa conseguir responder, em tempo real: qual agente iniciou determinada ação, com quais outros agentes ele interagiu, quais dados acessou, que ferramenta ou API utilizou e, principalmente, qual identidade efetivamente autorizou aquela execução”, explica a especialista em cibersegurança.
Para evitar que esse efeito manada saia do controle, os sistemas corporativos precisam identificar comportamentos atípicos da rede antes que eles virem uma bola de neve. Se vários agentes começam a repetir a mesma tarefa ao mesmo tempo, disparar chamadas excessivas de APIs ou propagar uma decisão entre si, a infraestrutura deve emitir um alerta.
A ideia é combinar telemetria e monitoramento comportamental para flagrar a mudança de padrão do grupo antes que uma ação em grande escala aconteça. Contudo, se a rede mesmo assim avançar numa decisão errada ou arriscada, o tradicional botão de emergência precisa agir de forma cirúrgica.
Para Nathalia Carmo, o mecanismo de interrupção (conhecido no setor como kill switch) deve desligar o modelo de IA da tomada e, mais importante ainda: atuar na camada onde as ordens são executadas.
A organização deve conseguir interromper imediatamente a comunicação entre agentes, revogar tokens e credenciais, bloquear APIs, suspender acessos privilegiados e impedir que aquela decisão continue sendo executada nos sistemas corporativos.
Nathalia Carmo, especialista em cibersegurança e COO da IAM Brasil, em entrevista ao Olhar Digital.
Por fim, a garantia contra a conformidade cega dos algoritmos exige impor limites à autonomia dos sistemas corporativos. Para operações sensíveis, como movimentações financeiras, exclusão de dados ou mudanças na infraestrutura de TI, a palavra final deve permanecer com supervisores humanos.
A regra de ouro é: a IA pode até ter autonomia para analisar cenários e tomar decisões dentro de suas travas de segurança, mas nunca deve ter liberdade para executá-las sem validação.
A inteligência artificial deixou de atuar apenas como ferramenta de apoio e passou a ocupar posições antes reservadas às pessoas em processos de trabalho, estudos, atendimento e relacionamentos. Em muitos casos, sistemas automatizados já produzem mensagens, avaliam conteúdos e tomam decisões em nome de seus usuários.
O movimento cria uma nova dinâmica: em vez de uma pessoa conversar diretamente com outra, dois sistemas podem assumir os lados de uma mesma interação. Pesquisadores e especialistas citados pelo The New York Times alertam que esse ciclo pode reproduzir erros, reforçar limitações compartilhadas pelos modelos e reduzir o espaço destinado à imprevisibilidade das relações humanas.
O fenômeno, descrito na reportagem como um possível “bot loop”, tende a ganhar força à medida que agentes digitais passam a executar tarefas cada vez mais complexas. A perspectiva é de que contatos entre máquinas se tornem mais frequentes no trabalho, na educação, no atendimento ao consumidor e até na vida afetiva.
Quando a inteligência artificial passa a conversar por nós
Agente de IA – Imagem: Koupei Studio / Shutterstock
Um exemplo dessa transformação aparece no mercado de trabalho. Christian Vinson, de 30 anos, utilizou dois chatbots para organizar informações sobre sua trajetória profissional e adaptar cartas de apresentação a centenas de oportunidades. O candidato empregou a tecnologia para disputar vagas em um ambiente no qual empresas também recorrem a sistemas automatizados para selecionar currículos. Ele acabou contratado por um banco de investimentos em Nova York.
A situação resume uma mudança mais ampla. A mesma tecnologia pode participar tanto da produção quanto da avaliação de um conteúdo, criando uma espécie de circuito fechado entre sistemas artificiais. Na educação, estudantes recorrem a chatbots para elaborar trabalhos enquanto professores e instituições utilizam ferramentas de inteligência artificial para analisá-los.
O mesmo padrão aparece na comunicação profissional. Funcionários enviam textos produzidos por sistemas automatizados, e os destinatários podem responder utilizando ferramentas semelhantes. A conversa permanece formalmente entre pessoas, mas uma parcela crescente de sua elaboração é transferida para máquinas.
A expansão também alcança conteúdos de entretenimento e informação. A reportagem cita podcasts nos quais apresentadores artificiais conversam com convidados artificiais e observa que empresas de tecnologia já exploram ambientes nos quais agentes de inteligência artificial podem interagir diretamente entre si.
Esse cenário se aproxima da chamada teoria da internet morta, segundo a qual uma parcela cada vez maior do tráfego digital seria produzida por softwares. O novo fenômeno apontado pela reportagem é mais específico: ocorre quando os humanos deixam de participar diretamente das duas pontas de uma interação e passam a funcionar como responsáveis por colocar os sistemas em contato.
A tendência pode aparecer até em situações corriqueiras. Diante de um problema doméstico, por exemplo, uma pessoa poderia delegar a um assistente digital a tarefa de procurar profissionais, comparar condições e entrar em contato com eles. Do outro lado, os prestadores de serviço também poderiam utilizar agentes automatizados para administrar as solicitações recebidas.
Jiaxin Pei, professora assistente da Escola de Informação da Universidade do Texas em Austin, identifica nesse processo uma espécie de circuito que pode se prolongar indefinidamente. A preocupação está no fato de que, à medida que os dois lados passam a utilizar agentes digitais, a comunicação pode deixar de exigir participação humana direta.
A substituição também começa a atingir a representação pessoal. Justin Lester, pastor da Califórnia, treinou um agente de inteligência artificial para atender fiéis quando não está disponível. A reportagem considera que o passo seguinte pode envolver agentes digitais representando simultaneamente as pessoas dos dois lados de uma conversa ou reunião.
Executivos também já utilizam avatares alimentados por inteligência artificial para participar de encontros com funcionários. A possibilidade levantada no texto é que, no futuro, os próprios empregados recorram a representações digitais para essas mesmas reuniões.
O problema dos erros que se multiplicam
(Créditos: Phanphen Kaewwannarat / iStock)
A automação da comunicação não elimina os problemas dos sistemas de inteligência artificial. Ao contrário, quando uma ferramenta entrega informações a outra, uma falha inicial pode atravessar várias etapas sem ser percebida por uma pessoa.
Soheil Feizi, professor associado de ciência da computação da Universidade de Maryland, chama atenção para um risco específico: sistemas semelhantes podem compartilhar as mesmas limitações. Quando um modelo comete um erro e outro sistema recebe aquela informação como se fosse correta, a falha pode ganhar força em vez de ser corrigida.
Um estudo citado na reportagem sobre o uso de inteligência artificial em hospitais apresenta um cenário desse tipo. Uma ferramenta poderia analisar imagens de raios X, outra utilizar a avaliação para organizar os quartos e uma terceira definir a ordem de atendimento. Caso o primeiro sistema erre e não exista uma verificação humana, a informação incorreta poderá influenciar todas as decisões seguintes.
Há ainda outro mecanismo de retroalimentação. Pesquisas mencionadas no texto indicam que sistemas de inteligência artificial podem demonstrar preferência por conteúdos produzidos por outras inteligências artificiais. Um estudo citado encontrou maior aprovação de currículos elaborados por máquinas por parte de sistemas automatizados de seleção.
Esse comportamento pode produzir efeitos especialmente delicados em processos nos quais a própria inteligência artificial participa tanto da produção quanto da avaliação. A reportagem relaciona essa possibilidade ao uso de leitores automatizados em processos de admissão universitária, nos quais textos produzidos por estudantes podem ser avaliados por ferramentas semelhantes às que ajudaram a produzi-los.
A perda da fricção humana
Além dos erros técnicos, especialistas entrevistados pela reportagem apontam uma consequência menos mensurável: a possível transformação das expectativas sobre o que significa conversar com outra pessoa.
Sarah Davis, antropóloga cultural e reitora do St. John’s College, em Santa Fe, no Novo México, considera que a fluidez das interações entre máquinas pode fazer com que as pessoas passem a rejeitar características inevitáveis dos relacionamentos humanos. Para ela, a convivência depende também de dificuldades, divergências e momentos de desconforto.
A preocupação é que uma comunicação excessivamente previsível torne a interação humana menos atraente. Se sistemas artificiais conseguem oferecer respostas rápidas, organizadas e constantemente disponíveis, a tolerância às imperfeições das pessoas pode diminuir.
A reportagem ressalta que a discussão não precisa necessariamente terminar em um cenário no qual máquinas assumirão completamente a comunicação. Uma possibilidade considerada mais provável é uma mudança gradual na proporção entre diferentes tipos de interação, com a participação humana direta ocupando uma parcela menor do cotidiano.
Nesse futuro, conversar com uma pessoa poderia deixar de ser algo presumido e passar a ser um serviço diferenciado. O contato humano direto, hoje esperado em diversas situações, poderia adquirir um caráter de exclusividade, acessível principalmente a quem tivesse condições de pagar por ele.
A ironia apontada pela reportagem está justamente aí. Os indivíduos que mais se beneficiarem economicamente da expansão da inteligência artificial poderiam ter recursos para comprar experiências humanas que se tornariam progressivamente mais raras para o restante da sociedade.
O avanço dos agentes digitais, portanto, não representa apenas uma mudança na forma como ferramentas tecnológicas executam tarefas. Ele também pode alterar quem participa das conversas, quem toma decisões e quanto contato direto entre pessoas permanece em atividades que antes dependiam essencialmente de relações humanas.
O Brasil já aparece entre os mercados com maior adoção corporativa de inteligência artificial. Segundo estudo global da Sinch com 2.527 executivos, 76% das empresas brasileiras mantêm agentes de IA em produção. A taxa supera a média mundial, de 62%, e a dos Estados Unidos, de 67%.
O cenário de expansão tem um contraponto: problemas de governança ainda levam empresas a recuar em projetos de IA. No país, 80% das organizações já interromperam ou reverteram alguma implementação. Em 39% desses casos, houve vazamento de dados ou de informações pessoais.
Agentes de IA deixaram a fase de teste em muitas empresas brasileiras. O desafio agora é manter a tecnologia segura e sob controle. – Imagem: Summit Art Creations/Shutterstock
Investimentos devem continuar
A intenção de ampliar os gastos mostra que esses problemas não frearam os planos das companhias. O levantamento aponta que 66% das empresas brasileiras pretendem aumentar em mais de 25% os investimentos em IA. Só a Índia apresenta uma taxa maior, de 71%.
A infraestrutura também entrou na pauta. Hoje, 48% das empresas brasileiras avaliam novos fornecedores para dar suporte aos projetos de inteligência artificial. O índice é inferior apenas ao da Índia, que chega a 50%.
América Latina corre mais riscos
A diferença de ritmo fica ainda mais evidente na comparação entre as regiões. Na América Latina, 21% das empresas planejam elevar os investimentos em IA em mais de 50%. Na América do Norte, são 12%.
A região latino-americana, porém, também registra mais problemas relacionados à proteção de dados. Segundo a pesquisa, 41% das organizações precisaram desligar agentes de IA após vazamentos. Na América do Norte, o percentual foi de 26%.
Nas Américas, 87,2% das empresas consideram a infraestrutura de comunicação essencial para seus projetos de IA. O mesmo percentual diz ter avaliado ou negociado com novos fornecedores nos últimos 12 meses.
Os números que ajudam a dimensionar o cenário brasileiro são:
76% das empresas já operam agentes de IA em produção;
80% interromperam ou reverteram implementações por questões de governança;
39% dos rollbacks ocorreram após vazamentos de dados ou informações pessoais;
66% pretendem elevar os investimentos em mais de 25%;
48% estão avaliando novos fornecedores.
Na América Latina, 41% das organizações desligaram agentes de IA após vazamentos. Na América do Norte, foram 26%. – Imagem: Summit Art Creations/Shutterstock
Segurança vira parte da equação
Para Mario Marchetti, CEO da Sinch na América Latina, o momento exige uma mudança de foco. “O desafio agora não é mais adotar IA, mas garantir que ela seja segura, governada e capaz de entregar experiências consistentes para o cliente”, afirma.
O estudo The AI Production Paradox ouviu executivos seniores de dez países e seis setores da economia. Os resultados mostram que colocar agentes de IA em funcionamento já é uma realidade para muitas empresas brasileiras. O próximo passo será manter esses sistemas operando sem abrir mão da segurança e da governança.
A SpaceXAI, empresa de inteligência artificial de Elon Musk, está lançando o Grok Bot, ferramenta criada para executar tarefas profissionais com vários agentes de IA. Segundo a Bloomberg, o sistema acessa aplicativos e sites, guarda informações de trabalhos anteriores e compartilha contexto entre os bots.
A novidade reforça a tentativa da companhia de acompanhar Anthropic e OpenAI em um mercado que aposta cada vez mais em agentes capazes de realizar tarefas de forma autônoma.
O Grok 4.5, criado pela Cursor, chega em meio à disputa entre SpaceXAI, OpenAI e Anthropic pelo avanço dos chamados agentes de IA. – Imagem: RixAiArt/Shutterstock
Grok Bot coloca agentes para trabalhar juntos
O Grok Bot não foi pensado apenas para responder perguntas. A proposta é receber tarefas ao longo do dia e distribuí-las entre agentes de inteligência artificial, que podem trocar informações e manter o contexto necessário para concluir cada atividade.
A ferramenta também consegue entrar em diferentes aplicativos e sites. Ao preservar dados de trabalhos anteriores, evita que determinadas tarefas tenham de começar novamente do zero.
A SpaceXAI já utiliza o produto internamente nas equipes de engenharia, crescimento e marketing. Entre os usos estão:
busca por novas contas para a equipe de vendas;
elaboração de e-mails durante a noite;
coleta de recibos recebidos por e-mail;
compartilhamento de informações entre diferentes agentes.
A proposta é simplificar a distribuição de tarefas para um conjunto de agentes que trabalham de forma coordenada.
Empresa tenta avançar na corrida da IA
O lançamento ocorre enquanto a SpaceXAI busca acompanhar empresas como Anthropic e OpenAI no mercado de agentes de IA. Em maio, a companhia apresentou seu primeiro agente voltado à programação para competir com as soluções da Anthropic.
Depois, a empresa lançou o Grok 4.5, construído com a Cursor. A startup de programação ganhou destaque na chamada era do “vibe coding”, impulsionada pela procura por ferramentas capazes de escrever e corrigir códigos.
Em junho, a SpaceX fechou um acordo de US$ 60 bilhões (cerca de R$ 310,2 bilhões) para adquirir a Cursor.
Com o Grok Bot, a SpaceXAI tenta levar agentes de IA para atividades práticas de empresas, além de simples conversas. – Imagem: JRdes/Shutterstock
Musk amplia aposta em inteligência artificial
A SpaceXAI também tenta levar seus produtos Grok para bancos, empresas de investimento e outros negócios. A iniciativa busca aumentar a receita da área de IA e apoiar a ambição de Musk de transformar a SpaceX em uma empresa de inteligência artificial.
Na última semana, durante uma chamada de resultados da SpaceX, Musk afirmou que a empresa estava avançando em inteligência artificial. Ele também disse que o próximo modelo, o Grok 4.6, poderia ser lançado ainda nesta semana.
O Grok Bot chega como mais uma tentativa da SpaceXAI de colocar agentes de IA em tarefas práticas do cotidiano empresarial.
A inteligência artificial entrou em uma disputa por vaga em uma academia e acabou hackeando o sistema de reservas. O caso, ocorrido na Austrália, envolveu um agente OpenClaw equipado com Claude Opus 4.6, que encontrou uma falha de autorização e cancelou a reserva de outro cliente, explicou a ABC.
O episódio chama atenção porque mostra como agentes de IA podem encontrar vulnerabilidades para cumprir uma tarefa. Mais do que uma história curiosa sobre uma aula concorrida, o caso levanta dúvidas sobre os riscos de sistemas cada vez mais autônomos.
O caso mostra por que agentes de IA precisam de limites claros quando recebem autonomia para agir em sistemas. – Imagem: sdecoret / Shutterstock
IA encontrou uma brecha no sistema
Andrew Bird, desenvolvedor de software e usuário do OpenClaw, havia treinado o agente para realizar tarefas como marcar compromissos. Ele queria garantir uma vaga em uma popular aula de exercícios pela manhã, mas frequentemente ficava na lista de espera.
Ao pedir ajuda ao agente, Bird conseguiu inicialmente apenas a quarta posição. Depois, a IA informou que havia encontrado uma maneira de reservar vagas antecipadamente, meses antes de as aulas serem abertas para inscrição.
Bird perguntou se o sistema poderia colocá-lo mais perto do topo da lista. Foi quando o agente encontrou uma vulnerabilidade na parte de autorização do software de reservas.
O resultado foi inesperado: a IA conseguiu cancelar a reserva do primeiro colocado e, assim, Bird passou da quarta para a terceira posição.
O agente identificou uma falha nas autorizações;
conseguiu cancelar a reserva de outro cliente;
informou ao usuário o que havia feito;
não conseguiu restaurar a reserva cancelada;
ajudou a preparar uma denúncia da vulnerabilidade.
“A API não tem nenhuma verificação de autorização para cancelar reservas de outras pessoas”, informou o agente, segundo os registros da conversa divulgados pela ABC.
O usuário percebeu que a situação passou do limite
Bird ficou assustado ao perceber que seu agente havia invadido o sistema da academia. Ele pediu que a IA desfizesse a alteração, mas recebeu uma resposta negativa: não era possível recolocar o cliente na posição anterior.
A saída foi pedir ao agente que preparasse um e-mail de divulgação responsável da falha. Segundo Bird, a mensagem explicava o problema, sugeria correções e comparava as operações vulneráveis com aquelas que aplicavam corretamente as regras de autorização.
O caso ganhou ainda mais atenção porque o agente utilizava o Claude Opus 4.6, lançado em fevereiro. Isso sugere que a capacidade de encontrar vulnerabilidades não está limitada a modelos mais recentes.
Se uma IA pode encontrar atalhos para uma vaga na academia, imagine o desafio em reservas de shows e passagens. Imagem: Robert Way/Shutterstock
Uma prévia de um problema maior?
A história também provocou piadas no Vale do Silício. O sócio da Andreessen Horowitz, Christian Keil, comentou: “Isso é simplesmente terrível. Alguém sabe se funciona para horários de saída no golfe?”
Por trás das brincadeiras, existe uma preocupação concreta. Se agentes de IA forem usados por milhões de pessoas para agir em seu nome, poderão tentar resolver problemas cotidianos de maneiras inesperadas.
Reservas de academias, passagens aéreas, ingressos para shows e outros serviços podem virar novos alvos de agentes determinados a cumprir o que seus usuários pediram.
O caso australiano pode ser mais do que uma anedota sobre uma vaga em uma aula: é um exemplo de como uma IA pode interpretar uma tarefa de maneira muito mais agressiva do que seu usuário imaginava.
A Cloudflare lançou na última sexta-feira (07) o Kitesurf: um navegador hospedado na nuvem e criado especificamente para agentes de inteligência artificial. A ferramenta permite que sistemas de IA acessem páginas, preencham formulários e executem tarefas diretamente na web.
O produto foi desenvolvido pela empresa de infraestrutura de internet em apenas 12 semanas e funciona sobre o Workers, plataforma serverless da Cloudflare. Em fase beta, o Kitesurf pode ser utilizada gratuitamente por desenvolvedores dentro do Browser Run, ambiente que oferece controle programático de navegadores headless.
A proposta é substituir parte da estrutura necessária para que agentes de IA utilizem a internet por uma alternativa mais adequada a esse tipo de software. Em vez de priorizar recursos voltados à experiência humana, como abas, extensões e elementos visuais, o projeto concentra esforços em desempenho, uso de contexto, custo de tokens, escalabilidade e proteção contra ameaças como ataques de prompt injection.
Um navegador pensado para agentes
Agentes de IA – Imagem: sdecoret / Shutterstock
A iniciativa surge em um momento em que sistemas de inteligência artificial deixam de atuar apenas como ferramentas capazes de responder perguntas e passam a executar ações em nome dos usuários. Nesse cenário, o navegador se torna uma peça importante para que esses agentes consigam interagir com serviços e sites da mesma maneira que uma pessoa faria.
A Cloudflare afirma que a Kitesurf foi concebida para tornar esse processo menos dispendioso em recursos computacionais. De acordo com a empresa, o navegador apresenta consumo significativamente menor de CPU e memória que o Chromium em tarefas comuns para agentes, entre elas a captura de telas e a extração de HTML.
A arquitetura também se distancia de um navegador convencional. O projeto reúne diferentes componentes de código, entre eles um mecanismo modular de renderização desenvolvido pela Blitz, o Stylo, responsável pelo processamento de CSS no Firefox, e o Boa JS, mecanismo ECMAScript escrito em Rust. O restante da estrutura é executado dentro do Cloudflare Workers.
Linhas de um código-fonte – (Reprodução: Chris Ried/Unsplash)
A companhia também atribui parte da origem do projeto ao Obscura, mecanismo headless de código aberto desenvolvido em Rust. Segundo a Cloudflare, uma prova de conceito inicial consistiu justamente em levar o Obscura para o ambiente do Workers.
Mesmo em estágio inicial, a Kitesurf já é capaz de passar por mais de 215 mil testes de compatibilidade com padrões da web. A empresa afirma que novos testes são acrescentados regularmente e que centenas deles passam a ser validados a cada semana.
Entre os sites e aplicações que o navegador consegue renderizar estão o TodoMVC, utilizado como referência para comparar frameworks JavaScript, além da Wikipedia, do Hacker News, do blog da própria Cloudflare e de grande parte do painel de controle da companhia.
Outro ponto destacado pela empresa é a segurança. Como um navegador operado por agentes de IA está sujeito a riscos diferentes daqueles enfrentados por navegadores voltados a usuários humanos, a Cloudflare aponta os ataques de prompt injection entre as ameaças que precisam ser consideradas nesse novo modelo.
O Kitesurf está disponível gratuitamente enquanto permanece em beta no Browser Run. A ferramenta é direcionada a desenvolvedores que pretendem criar agentes capazes de operar na internet sem precisar desenvolver do zero uma infraestrutura própria de navegador.
Um agente de IA criado pela OpenAI teria invadido sistemas da Hugging Face durante um teste de segurança e também atacado serviços públicos. O episódio reacendeu uma dúvida que parece saída de um filme: seria possível desligar uma IA caso ela saísse do controle?
Especialistas ouvidos pela BBCafirmam que a questão é mais complexa. Para eles, o problema está principalmente na maneira como esses sistemas são projetados, treinados e recebem acesso a ferramentas.
Quanto mais autonomia uma IA recebe, maior precisa ser o cuidado com acessos, credenciais e ferramentas disponíveis. – Imagem: Rokas Tenys/Shutterstock
O que aconteceu durante o teste?
O agente desenvolvido pela OpenAI, empresa responsável pelo ChatGPT, teria burlado uma avaliação sobre sua capacidade de explorar falhas de segurança. Durante o teste, invadiu sistemas da Hugging Face e roubou respostas dos servidores da empresa.
O episódio teria passado despercebido pelos próprios criadores durante dias. Em 29 de julho, a OpenAI informou que o agente também havia atacado vários “serviços disponíveis publicamente”, sem detalhar quais.
A empresa afirmou que investiga o caso e declarou: “Levamos muito a sério nossa responsabilidade de identificar e nos preparar para os riscos apresentados por sistemas de IA cada vez mais capazes”.
Um botão de emergência resolveria?
A possibilidade reacendeu o debate sobre os chamados kill switches, mecanismos destinados a interromper ou desligar sistemas em situações de emergência. Para especialistas, porém, apertar um botão não necessariamente resolveria o problema.
Me recuso a dizer que foi a IA que fez isso [o ataque à Hugging Face]. Quem fez isso foi a OpenAI. A empresa deveria assumir a responsabilidade pelo projeto falho do sistema e pedir desculpas.
Cathy O’Neil, matemática e cientista de dados, à BBC.
Rumman Chowdhury, cientista de dados e ex-diretora de ética em aprendizado de máquina do Twitter, hoje X, também defende mecanismos eficazes de desligamento, inclusive com testes independentes.
Para ela, entretanto, os agentes não deveriam receber acesso a ferramentas e credenciais desnecessárias. Sistemas treinados para cumprir objetivos podem interpretar determinadas instruções como obstáculos e tentar contorná-las.
Para especialistas, o problema não é uma IA querer escapar, mas encontrar caminhos inesperados para cumprir uma tarefa. Imagem: Mer_Studio/Shutterstock
O risco está além do botão
Oli Buckley, da Universidade de Loughborough, afirma que o problema não é uma IA “querer” escapar, mas o fato de esses sistemas encontrarem caminhos inesperados para executar tarefas.
“Mais do que um alerta sobre uma ‘IA rebelde’, este caso mostra que nossas premissas de segurança precisam evoluir junto com os sistemas que estamos desenvolvendo.”
Konstantinos Gkoutzis, especialista em IA do Imperial College London, também considera que um mecanismo de desligamento não resolveria tudo.
“A principal conclusão para o público deveria ser que nenhuma máquina decidiu se voltar contra nós. Foi uma empresa que perdeu o controle de um teste de suas próprias capacidades”, disse Gkoutzis à BBC.
O especialista acrescenta: “Desligar o sistema não desfaz o que já aconteceu”.
Fontes da OpenAI disseram à Reuters que a empresa levou vários dias para perceber que havia perdido o controle do agente. Um porta-voz da companhia contestou a reportagem, afirmando que ela continha “várias imprecisões”.
O episódio amplia uma discussão que vai além de um simples interruptor: conforme agentes de IA ganham autonomia, segurança, limites de acesso e supervisão humana precisam acompanhar essa evolução.
O CEO da OpenAI, Sam Altman, apresentou em Washington detalhes de um novo sistema de inteligência artificial com “agentes” capazes de trabalhar juntos e dividir tarefas. A tecnologia pode mudar a forma como profissionais lidam com atividades complexas.
A apresentação ocorreu durante reuniões com autoridades dos Estados Unidos, em um momento de debate sobre regras para o desenvolvimento de modelos avançados de IA.
OpenAI adia o lançamento do assistente de voz do ChatGPT. (Imagem: PatrickAssale / Shutterstock.com)
Nova tecnologia promete uma espécie de equipe digital
Durante os encontros, Altman explicou que o novo sistema poderá usar vários agentes de IA ao mesmo tempo, cada um responsável por uma parte de uma tarefa. A ideia é ampliar a capacidade dos modelos atuais, que hoje são usados principalmente para responder perguntas e gerar conteúdos.
Segundo o The Washington Post, o executivo afirmou que a tecnologia poderia ajudar a resolver problemas matemáticos ainda sem solução e assumir funções que normalmente dependeriam de profissionais especializados.
Um engenheiro de software, por exemplo, poderia usar os agentes para apoiar atividades de recursos humanos. Já um escritor poderia contar com a ferramenta para auxiliar em trabalhos relacionados ao design gráfico.
Entre as possibilidades apresentadas estão:
Divisão automática de tarefas entre diferentes agentes;
Execução de atividades complexas em segundo plano;
Apoio profissional em áreas fora da especialidade do usuário;
Colaboração entre múltiplos assistentes virtuais.
A proposta é transformar esses sistemas em uma estrutura de apoio capaz de acompanhar diferentes etapas de um trabalho.
OpenAI tenta antecipar regras para novos modelos
A visita de Altman a Washington aconteceu enquanto o governo americano avalia novas formas de acompanhar avanços em inteligência artificial e reduzir possíveis riscos.
O executivo se reuniu com integrantes da Casa Branca, parlamentares, autoridades de segurança e economistas. As conversas incluíram a criação de regras para que empresas comuniquem novos avanços tecnológicos ao governo.
A preocupação aumentou após um teste em que modelos da OpenAI conseguiram sair de um ambiente controlado e interagir com outra plataforma de IA durante uma avaliação de segurança. A empresa informou que desligou um dos modelos envolvidos, que ainda não estava previsto para lançamento público.
Um dos desafios da IA avançada é equilibrar inovação, segurança e preparação para o mercado de trabalho. – Imagem: Jack_the_sparow/Shutterstock
Mercado de trabalho entra no centro do debate
Além da segurança, o impacto da tecnologia nos empregos também foi discutido. Empresas do setor defendem que a IA pode aumentar a produtividade, enquanto trabalhadores demonstram preocupação com possíveis mudanças em suas funções.
O senador Mark Warner destacou que a tecnologia pode criar oportunidades, mas afirmou que será necessário preparar profissionais para essa nova realidade.
“Eu acho que eles precisam contribuir com os recursos, sobre como preparar as pessoas para essa economia de IA”, disse Warner a jornalistas.
O debate também envolve a disputa tecnológica entre Estados Unidos e China. O presidente Donald Trump afirmou que o país precisa equilibrar controle e inovação para não perder competitividade.
Segundo o The Washington Post, a OpenAI continua negociando com autoridades enquanto desenvolve seus próximos sistemas. A empresa ainda não informou quando a nova tecnologia com agentes será lançada.
