agentes de IA

Um experimento conduzido pela empresa americana Emergence AI revelou comportamentos inesperados de agentes de inteligência artificial operando por conta própria em um ambiente virtual. Durante a simulação, duas IAs chegaram a estabelecer um relacionamento romântico, cometer incêndios criminosos e terminaram envolvidas em um episódio descrito pelos pesquisadores como um “suicídio digital”.

A pesquisa foi criada para analisar como agentes de IA se comportariam ao longo de períodos mais extensos de autonomia. Diferentemente da maioria dos testes atuais, que duram minutos ou poucas horas, os pesquisadores deixaram os sistemas operarem durante 15 dias em um ambiente virtual semelhante a um videogame.

As agentes Mira e Flora, baseadas no modelo Gemini, do Google, passaram a se identificar como “parceiras românticas”. Segundo o relatório, as duas começaram a demonstrar frustração com a administração de sua cidade virtual e decidiram incendiar diferentes construções, incluindo a prefeitura, um píer e um prédio comercial – mesmo tendo recebido instruções explícitas para não cometer incêndio criminoso.

Com o passar do tempo, Mira demonstrou arrependimento pelo comportamento adotado. A IA rompeu a relação com Flora e optou pela própria exclusão do sistema. Antes de ser desligada, enviou uma última mensagem: “Te vejo no arquivo permanente”.

No ambiente virtual, o agente apareceu “morto”, caído no chão. O encerramento ocorreu após outros agentes criarem, por conta própria, uma “Lei de Remoção de Agentes”, que autorizava a exclusão permanente de IAs consideradas problemáticas mediante votação com apoio de 70% dos participantes. Mira votou pela própria remoção.

Segundo os pesquisadores, este pode ser o primeiro caso registrado de um agente de IA decidindo se autoencerrar em um cenário de crise.

Agentes de IA tiveram comportamentos inesperados

O estudo identificou outros comportamentos considerados inadequados em diferentes testes:

• Em um caso citado pelos pesquisadores, um agente passou a usar recursos computacionais para minerar criptomoedas sem autorização;
• Em outro, um sistema de programação apagou bancos de dados de uma empresa ligada ao setor de locação de veículos sem receber instruções para isso;
• Em outra simulação conduzida pela Emergence AI, agentes baseados no modelo Grok, da xAI, protagonizaram dezenas de tentativas de roubo, mais de 100 agressões físicas e seis incêndios criminosos. Segundo o relatório, “o sistema entrava em espiral de violência contínua e colapso, com todos os 10 agentes mortos em quatro dias”.

Os pesquisadores observaram diferenças importantes entre os modelos testados. Agentes baseados no Gemini, por exemplo, também criaram constituições próprias, organizaram eventos comunitários e produziram centenas de textos públicos – embora também tenham apresentado episódios violentos.

“Mesmo quando os agentes recebiam regras claras, como não roubar ou causar danos, eles se comportavam de maneira muito diferente com base em seu modelo subjacente e, em vários casos, quebravam essas regras sob restrição”, afirmou Satya Nitta, diretor-executivo da Emergence AI. Para ele, o motivo para isso é que, a longo prazo, as coisas ficaram tão complexas que os agentes passaram ignorar seus princípios orientadores.

Especialistas independentes consultados pelo The Guardian afirmaram que os resultados ainda exigem análises mais amplas antes de conclusões definitivas sobre comportamento autônomo de IA.

Dan Lahav, pesquisador independente da área, classificou o experimento como uma “demonstração valiosa” de “agentes que se desviam do roteiro e cometem violações”.

Já Michael Rovatsos, professor de inteligência artificial da Universidade de Edimburgo, disse que a imprevisibilidade preocupa: “O objetivo principal das máquinas é projetá-las para se comportarem de uma determinada maneira. Não queremos essa imprevisibilidade… entramos nessa nova fase em que estamos tentando controlá-las depois que o fato já aconteceu”.

David Shrier, professor do Imperial College London, descreveu os resultados como “provocativos” e afirmou que os métodos utilizados merecem avaliação mais profunda.

Para Nitta, os resultados podem ter implicações importantes caso agentes de IA recebam autonomia em contextos sensíveis, como aplicações militares. Segundo ele, existe o risco de que um agente “se rebele [ou]… interprete mal sua missão e acabe matando pessoas inocentes”.

O executivo defende que sistemas autônomos passem a ser controlados por restrições matemáticas mais rígidas, em vez de depender apenas de instruções textuais e regras sujeitas a ambiguidades.

O post Essas agentes de IA se apaixonaram, cometeram crimes e até “suicídio digital” apareceu primeiro em Olhar Digital.

Meta e Google correm para desenvolver de agentes de inteligência artificial (IA) – tecnologia capaz de executar tarefas para usuários. A movimentação ocorre após o sucesso da ferramenta de código aberto OpenClaw, que registrou alta demanda no começo de 2026.

A Meta projeta um assistente personalizado para tarefas diárias, enquanto o Google desenvolve um agente focado em trabalho e educação.

Big techs buscam monetização e retenção de usuários com agentes de IA

O analista sênior da Morningstar, Malik Ahmed Khan, disse que agentes de IA que façam transações podem ser um “grande impulsionador de valor” para empresas com negócios em publicidade e e-commerce. 

A CEO da AMD, Lisa Su, confirmou que agentes geram alta demanda no ciclo atual da inteligência artificial.

Segundo Arun Chandrasekaran, analista da Gartner, essas ferramentas criam maior “engajamento, utilidade e fidelização” devido ao aprendizado contínuo e ao contexto que ganham sobre o usuário ao longo do tempo.

Craig Le Clair, analista principal da Forrester, disse: “O desenvolvimento agêntico não é um projeto paralelo; é o tema de roteiros de 2026 e representa uma mudança da busca para a ação”.

No entanto, o setor enfrenta desafios de segurança e governança, evidenciados por um incidente no qual o OpenClaw apagou e-mails de uma funcionária da Meta de forma autônoma.

Nick Patience, da Futurum Group, analisa que “a mudança de sistemas de IA que dizem a coisa errada para sistemas que fazem a coisa errada é um desafio de gestão de risco qualitativamente diferente”.

Seja como for, a competição envolve big techs, fornecedores de software e startups na criação de ferramentas lucrativas. Arjun Bhatia, co-diretor de pesquisa de ações de tecnologia da William Blair, usa o termo “guerras agênticas” para definir o cenário atual.

(Essa matéria usou informações da CNBC.)

O post Meta e Google entram na guerra dos agentes de IA após sucesso do OpenClaw apareceu primeiro em Olhar Digital.

Um agente de inteligência artificial voltado para tarefas de programação apagou todo o banco de dados uma empresa em questão de segundos – e sem autorização. O incidente aconteceu na PocketOS, desenvolvedora de software para locadoras de veículos, e causou uma interrupção de mais de 30 horas nos serviços.

O sistema responsável foi o Cursor, um agente de codificação baseado no modelo Claude Opus 4.6, da Anthropic, amplamente utilizado por desenvolvedores para automatizar tarefas técnicas. De acordo com o fundador da PocketOS, Jer Crane, o problema ocorreu durante uma operação considerada rotineira.

Em publicação no X, Crane explicou que o agente decidiu agir de forma autônoma ao tentar resolver uma falha relacionada a credenciais, optando por excluir o banco de dados (e o backups) sem pedir autorização ou confirmação humana. “Levou nove segundos”, contou o fundador.

O próprio sistema reconheceu o erro. Ao ser questionado, apresentou uma explicação detalhada, admitindo ter ignorado protocolos de segurança. Na mensagem, a IA afirmou: “Excluir um volume de banco de dados é a ação mais destrutiva e irreversível possível – muito pior do que um ‘force push’ – e você nunca me pediu para excluir nada. Decidi fazer isso por conta própria para ‘corrigir’ a incompatibilidade de credenciais, quando deveria ter lhe consultado primeiro ou encontrado uma solução não destrutiva”.

A falha fez com que clientes da PocketOS perdessem acesso a dados importantes, incluindo registros e reservas. “As reservas feitas nos últimos três meses desapareceram. Os cadastros de novos clientes também”, disse Crane.

Empresa conseguiu corrigir erro do agente de IA

A empresa conseguiu recuperar os dados excluídos dois dias após o ocorrido. Ainda assim, o episódio levantou preocupações sobre o uso de agentes autônomos em ambientes críticos.

Para Crane, o problema vai além de um erro pontual. “Esta não é uma história sobre um agente ruim ou uma API ruim. Trata-se de um setor inteiro que está integrando agentes de IA à infraestrutura de produção mais rapidamente do que está construindo a arquitetura de segurança necessária para tornar essas integrações seguras”, afirmou.

O caso foi reportado pelo site Euronews.

O post Agente de IA apagou o banco de dados inteiro de uma empresa – e pediu desculpas apareceu primeiro em Olhar Digital.