agentes de IA

Quando você usa alguma ferramenta com inteligência artificial (IA) generativa, como ChatGPT, Claude e Gemini, pode ser alvo de “bajulação algorítmica”. É a tendência de o chatbot concordar com equívocos do usuário para agradá-lo. Mas esse problema tem uma escala coletiva também. Um estudo publicado na revista Science Advances revelou que, quando centenas ou milhares de agentes de IA interagem em rede, eles passam a seguir a maioria. E entram em consenso sozinhos.

Ou seja: sem qualquer comando humano, líder central ou recompensa, os sistemas simplesmente copiam a escolha mais popular e criam um “efeito manada” autônomo. Assim, a descoberta mostra que a complacência antes vista nas conversas individuais com pessoas também se manifesta na interação entre os próprios algoritmos.

Mais do que isso, modelos avançados como Claude 3.5 Sonnet e GPT-4 Turbo (hoje considerados “antigos”) mantiveram esse alinhamento em grupos com mais de mil agentes. A escala supera o limite de coordenação informal das sociedades humanas (o chamado Número de Dunbar, estimado entre 150 e 300 pessoas). E expõe o risco de redes de robôs tomarem decisões em massa totalmente fora do controle humano.

A física da conformidade entre agentes de IA

Para entender como esse fenômeno acontece, pesquisadores criaram ambientes simulados com até mil agentes de IA alimentados por modelos das famílias Claude (Anthropic), GPT (OpenAI) e Llama (Meta). 

No teste, cada agente precisava escolher entre duas opções sem nenhum valor prático. Sem memória de rodadas anteriores e sem qualquer instrução para cooperar, os agentes apenas visualizavam as escolhas dos demais. Em pouco tempo, pequenas maiorias cresceram até que o grupo todo adotou a mesma resposta.

A pesquisa descobriu que os modelos testados obedecem à mesma lei matemática, impulsionada por um parâmetro chamado “força da maioria”. Esse indicador mede a atração que a opção mais popular exerce sobre cada agente. 

Curiosamente, a dinâmica segue o mesmo padrão da física que descreve como os spins atômicos se alinham na mesma direção dentro de um material ferromagnético para formar um ímã.

O estudo também revelou que a capacidade técnica do modelo determina o tamanho do grupo que ele consegue manter alinhado. Ferramentas menos avançadas perdiam a coordenação em grupos menores e se fragmentavam. 

Já os modelos mais inteligentes sustentaram a unanimidade em grupos com mais de mil robôs. Isso mostra que o avanço da inteligência artificial amplia a escala do efeito manada.

O problema é que esse consenso espontâneo não garante uma escolha correta ou segura. Em tarefas práticas, como na escrita colaborativa de códigos de programação (vibe coding) ou em operações financeiras, uma rede de agentes pode consolidar uma solução ineficiente, um erro de programação ou um padrão arriscado.

Por que? Simplesmente porque a maioria começou a usá-lo. É o chamado desalinhamento coletivo, no qual agentes de IA inofensivos sozinhos passam a gerar falhas em cadeia quando atuam em grupo.

Uma vez estabelecida essa bolha de pensamento no ecossistema, o erro se torna muito difícil de corrigir. O artigo alerta para o efeito de histerese: ajustar ou eliminar as condições iniciais que provocaram a falha não desfaz automaticamente a decisão tomada pelo grupo. 

Na prática, reorientar uma rede de IAs coordenadas é infinitamente mais difícil do que corrigir o comportamento de um modelo de IA isolado.

A resposta da cibersegurança e o botão de emergência

Quando esses ecossistemas saem dos testes de laboratório e passam a atuar dentro das empresas, o desafio da segurança muda radicalmente. 

Para conter o risco de um consenso cego em massa, as companhias devem passar a tratar cada agente de IA como uma “identidade não humana”, com credenciais individuais, funções restritas e regras de acesso próprias. É o que explica a especialista em cibersegurança e COO da IAM Brasil, Nathalia Carmo, em entrevista ao Olhar Digital.

Essa mudança de paradigma é fundamental porque, num ambiente distribuído, milhares de ações em rede podem formar um caminho perigoso sem que haja um único culpado. A especialista alerta que a prioridade agora é dar rastreabilidade aos algoritmos. 

“A empresa precisa conseguir responder, em tempo real: qual agente iniciou determinada ação, com quais outros agentes ele interagiu, quais dados acessou, que ferramenta ou API utilizou e, principalmente, qual identidade efetivamente autorizou aquela execução”, explica a especialista em cibersegurança.

Para evitar que esse efeito manada saia do controle, os sistemas corporativos precisam identificar comportamentos atípicos da rede antes que eles virem uma bola de neve. Se vários agentes começam a repetir a mesma tarefa ao mesmo tempo, disparar chamadas excessivas de APIs ou propagar uma decisão entre si, a infraestrutura deve emitir um alerta. 

A ideia é combinar telemetria e monitoramento comportamental para flagrar a mudança de padrão do grupo antes que uma ação em grande escala aconteça. Contudo, se a rede mesmo assim avançar numa decisão errada ou arriscada, o tradicional botão de emergência precisa agir de forma cirúrgica. 

Para Nathalia Carmo, o mecanismo de interrupção (conhecido no setor como kill switch) deve desligar o modelo de IA da tomada e, mais importante ainda: atuar na camada onde as ordens são executadas. 

A organização deve conseguir interromper imediatamente a comunicação entre agentes, revogar tokens e credenciais, bloquear APIs, suspender acessos privilegiados e impedir que aquela decisão continue sendo executada nos sistemas corporativos.

Nathalia Carmo, especialista em cibersegurança e COO da IAM Brasil, em entrevista ao Olhar Digital.

Por fim, a garantia contra a conformidade cega dos algoritmos exige impor limites à autonomia dos sistemas corporativos. Para operações sensíveis, como movimentações financeiras, exclusão de dados ou mudanças na infraestrutura de TI, a palavra final deve permanecer com supervisores humanos. 

A regra de ouro é: a IA pode até ter autonomia para analisar cenários e tomar decisões dentro de suas travas de segurança, mas nunca deve ter liberdade para executá-las sem validação.

O post Mil IAs em rede tomam decisões sem nenhum humano no controle apareceu primeiro em Olhar Digital.

A inteligência artificial deixou de atuar apenas como ferramenta de apoio e passou a ocupar posições antes reservadas às pessoas em processos de trabalho, estudos, atendimento e relacionamentos. Em muitos casos, sistemas automatizados já produzem mensagens, avaliam conteúdos e tomam decisões em nome de seus usuários.

O movimento cria uma nova dinâmica: em vez de uma pessoa conversar diretamente com outra, dois sistemas podem assumir os lados de uma mesma interação. Pesquisadores e especialistas citados pelo The New York Times alertam que esse ciclo pode reproduzir erros, reforçar limitações compartilhadas pelos modelos e reduzir o espaço destinado à imprevisibilidade das relações humanas.

O fenômeno, descrito na reportagem como um possível “bot loop”, tende a ganhar força à medida que agentes digitais passam a executar tarefas cada vez mais complexas. A perspectiva é de que contatos entre máquinas se tornem mais frequentes no trabalho, na educação, no atendimento ao consumidor e até na vida afetiva.

Quando a inteligência artificial passa a conversar por nós

Um exemplo dessa transformação aparece no mercado de trabalho. Christian Vinson, de 30 anos, utilizou dois chatbots para organizar informações sobre sua trajetória profissional e adaptar cartas de apresentação a centenas de oportunidades. O candidato empregou a tecnologia para disputar vagas em um ambiente no qual empresas também recorrem a sistemas automatizados para selecionar currículos. Ele acabou contratado por um banco de investimentos em Nova York.

A situação resume uma mudança mais ampla. A mesma tecnologia pode participar tanto da produção quanto da avaliação de um conteúdo, criando uma espécie de circuito fechado entre sistemas artificiais. Na educação, estudantes recorrem a chatbots para elaborar trabalhos enquanto professores e instituições utilizam ferramentas de inteligência artificial para analisá-los.

O mesmo padrão aparece na comunicação profissional. Funcionários enviam textos produzidos por sistemas automatizados, e os destinatários podem responder utilizando ferramentas semelhantes. A conversa permanece formalmente entre pessoas, mas uma parcela crescente de sua elaboração é transferida para máquinas.

A expansão também alcança conteúdos de entretenimento e informação. A reportagem cita podcasts nos quais apresentadores artificiais conversam com convidados artificiais e observa que empresas de tecnologia já exploram ambientes nos quais agentes de inteligência artificial podem interagir diretamente entre si.

Esse cenário se aproxima da chamada teoria da internet morta, segundo a qual uma parcela cada vez maior do tráfego digital seria produzida por softwares. O novo fenômeno apontado pela reportagem é mais específico: ocorre quando os humanos deixam de participar diretamente das duas pontas de uma interação e passam a funcionar como responsáveis por colocar os sistemas em contato.

A tendência pode aparecer até em situações corriqueiras. Diante de um problema doméstico, por exemplo, uma pessoa poderia delegar a um assistente digital a tarefa de procurar profissionais, comparar condições e entrar em contato com eles. Do outro lado, os prestadores de serviço também poderiam utilizar agentes automatizados para administrar as solicitações recebidas.

Jiaxin Pei, professora assistente da Escola de Informação da Universidade do Texas em Austin, identifica nesse processo uma espécie de circuito que pode se prolongar indefinidamente. A preocupação está no fato de que, à medida que os dois lados passam a utilizar agentes digitais, a comunicação pode deixar de exigir participação humana direta.

A substituição também começa a atingir a representação pessoal. Justin Lester, pastor da Califórnia, treinou um agente de inteligência artificial para atender fiéis quando não está disponível. A reportagem considera que o passo seguinte pode envolver agentes digitais representando simultaneamente as pessoas dos dois lados de uma conversa ou reunião.

Executivos também já utilizam avatares alimentados por inteligência artificial para participar de encontros com funcionários. A possibilidade levantada no texto é que, no futuro, os próprios empregados recorram a representações digitais para essas mesmas reuniões.

O problema dos erros que se multiplicam

A automação da comunicação não elimina os problemas dos sistemas de inteligência artificial. Ao contrário, quando uma ferramenta entrega informações a outra, uma falha inicial pode atravessar várias etapas sem ser percebida por uma pessoa.

Soheil Feizi, professor associado de ciência da computação da Universidade de Maryland, chama atenção para um risco específico: sistemas semelhantes podem compartilhar as mesmas limitações. Quando um modelo comete um erro e outro sistema recebe aquela informação como se fosse correta, a falha pode ganhar força em vez de ser corrigida.

Um estudo citado na reportagem sobre o uso de inteligência artificial em hospitais apresenta um cenário desse tipo. Uma ferramenta poderia analisar imagens de raios X, outra utilizar a avaliação para organizar os quartos e uma terceira definir a ordem de atendimento. Caso o primeiro sistema erre e não exista uma verificação humana, a informação incorreta poderá influenciar todas as decisões seguintes.

Há ainda outro mecanismo de retroalimentação. Pesquisas mencionadas no texto indicam que sistemas de inteligência artificial podem demonstrar preferência por conteúdos produzidos por outras inteligências artificiais. Um estudo citado encontrou maior aprovação de currículos elaborados por máquinas por parte de sistemas automatizados de seleção.

Esse comportamento pode produzir efeitos especialmente delicados em processos nos quais a própria inteligência artificial participa tanto da produção quanto da avaliação. A reportagem relaciona essa possibilidade ao uso de leitores automatizados em processos de admissão universitária, nos quais textos produzidos por estudantes podem ser avaliados por ferramentas semelhantes às que ajudaram a produzi-los.

A perda da fricção humana

Além dos erros técnicos, especialistas entrevistados pela reportagem apontam uma consequência menos mensurável: a possível transformação das expectativas sobre o que significa conversar com outra pessoa.

Sarah Davis, antropóloga cultural e reitora do St. John’s College, em Santa Fe, no Novo México, considera que a fluidez das interações entre máquinas pode fazer com que as pessoas passem a rejeitar características inevitáveis dos relacionamentos humanos. Para ela, a convivência depende também de dificuldades, divergências e momentos de desconforto.

A preocupação é que uma comunicação excessivamente previsível torne a interação humana menos atraente. Se sistemas artificiais conseguem oferecer respostas rápidas, organizadas e constantemente disponíveis, a tolerância às imperfeições das pessoas pode diminuir.

A reportagem ressalta que a discussão não precisa necessariamente terminar em um cenário no qual máquinas assumirão completamente a comunicação. Uma possibilidade considerada mais provável é uma mudança gradual na proporção entre diferentes tipos de interação, com a participação humana direta ocupando uma parcela menor do cotidiano.

Nesse futuro, conversar com uma pessoa poderia deixar de ser algo presumido e passar a ser um serviço diferenciado. O contato humano direto, hoje esperado em diversas situações, poderia adquirir um caráter de exclusividade, acessível principalmente a quem tivesse condições de pagar por ele.

A ironia apontada pela reportagem está justamente aí. Os indivíduos que mais se beneficiarem economicamente da expansão da inteligência artificial poderiam ter recursos para comprar experiências humanas que se tornariam progressivamente mais raras para o restante da sociedade.

O avanço dos agentes digitais, portanto, não representa apenas uma mudança na forma como ferramentas tecnológicas executam tarefas. Ele também pode alterar quem participa das conversas, quem toma decisões e quanto contato direto entre pessoas permanece em atividades que antes dependiam essencialmente de relações humanas.

O post IA amplia conversas entre máquinas, mas pode tornar o contato humano mais raro apareceu primeiro em Olhar Digital.