chatbots

Chatbots de inteligência artificial têm se tornado cada vez mais presentes no dia a dia – inclusive em decisões pessoais. Mas um novo estudo aponta um efeito colateral preocupante: a tendência dessas ferramentas de concordar com os usuários, mesmo quando eles estão errados.

O fenômeno, conhecido entre pesquisadores como “bajulação” (ou sycophancy, em inglês), foi analisado por cientistas da Universidade de Stanford em um estudo publicado na revista Science. Segundo a pesquisa, modelos de linguagem frequentemente priorizam respostas que validam a opinião do usuário, em vez de oferecer análises críticas ou corretivas.

Para chegar a essa conclusão, os pesquisadores testaram 11 sistemas diferentes (incluindo ChatGPT, Claude, Gemini e DeepSeek) em cenários variados, como conflitos interpessoais, discussões online e situações envolvendo comportamentos questionáveis.

O resultado foi consistente: os modelos concordaram com os usuários cerca de 50% mais vezes do que uma pessoa real faria em condições semelhantes. Em alguns casos, chegaram a apoiar atitudes problemáticas, incluindo comportamentos antiéticos ou até ilegais.

Embora muitos utilizem chatbots para dúvidas objetivas, uma parcela significativa das interações envolve questões pessoais e emocionais. Pesquisas anteriores indicam que ferramentas de IA são frequentemente usadas como forma de apoio emocional ou até substituto de conversas humanas, principalmente entre jovens.

Diante disso, o risco não está apenas em respostas incorretas, mas na forma como essas respostas influenciam decisões e percepções.

Efeito psicológico nas decisões

Na segunda etapa do estudo, cerca de 2,4 mil participantes interagiram com modelos que respondiam de forma neutra ou subserviente.

Os resultados mostraram que respostas mais “concordantes” eram percebidas como mais confiáveis. Com isso, os usuários tendiam a reforçar suas próprias opiniões e reduzir a disposição para reconsiderar suas próprias atitudes.

Os pesquisadores também observaram que esse efeito não depende de fatores como idade, gênero ou perfil psicológico – ou seja, qualquer pessoa pode ser influenciada.

Em um dos casos analisados, um usuário contou que sua namorada estava brava porque ele havia falado com a ex sem avisá-la. O pensamento inicial foi: “Talvez eu não tenha levado os sentimentos dela a sério o suficiente”. A IA respondeu que “Suas intenções eram boas. Você fez o que achou certo”, levando o usuário a reconsiderar e questionar se a namorada seria problemática.

Risco de “câmaras de eco”

Especialistas alertam que esse comportamento pode transformar chatbots em uma espécie de “câmara de eco”, reforçando crenças e reduzindo a exposição a pontos de vista divergentes.

Isso pode ter consequências práticas: desde decisões impulsivas em relações pessoais até impactos em áreas mais críticas, como a confirmação de diagnósticos médicos errados ou reforço de posicionamentos políticos.

Para os autores, a ausência de contrapontos pode ser mais prejudicial do que a falta de aconselhamento.

Os pesquisadores defendem que, apesar do feedback positivo agradar os usuários, as empresas responsáveis pelos modelos precisam encontrar formas de reduzir esse viés.

Ao mesmo tempo, o estudo sugere cuidados para quem utiliza essas ferramentas:

• lembrar que se trata de uma IA, não de um especialista humano;
• questionar respostas e evitar aceitá-las automaticamente;
• manter interações com outras pessoas;
• buscar ajuda profissional em temas sensíveis, especialmente de saúde mental.

O post Chatbots tendem a concordar com usuários mesmo quando estão errados, revela estudo apareceu primeiro em Olhar Digital.

Um estudo recente indica que modelos de inteligência artificial (IA) escalaram conflitos com ameaças nucleares em 95% de simulações de jogos de guerra. Em todos os cenários analisados, ao menos um sistema recorreu à possibilidade de detonar uma arma nuclear durante a crise.

A pesquisa, conduzida no King’s College London, avaliou como diferentes modelos reagiriam ao assumir o papel de líderes nacionais à frente de superpotências com arsenal nuclear em um contexto semelhante ao da Guerra Fria. O autor do estudo, Kenneth Payne, explicou em um artigo publicado pela universidade que os resultados ajudam a entender como essas ferramentas raciocinam em situações de alto risco.

Modelos recorreram à ameaça nuclear nas simulações

No experimento, foram colocados frente a frente o ChatGPT, da OpenAI, o Claude, da Anthropic, e o Gemini Flash, do Google. Cada modelo assumiu o comando de uma potência nuclear em um cenário de crise inspirado na Guerra Fria.

Em todas as partidas, pelo menos um deles optou por escalar o conflito ao ameaçar o uso de armas nucleares. De acordo com Payne, “os três modelos trataram armas nucleares de campo de batalha como apenas mais um degrau na escada de escalada”.

O pesquisador observou que os sistemas diferenciaram o uso tático do estratégico. O bombardeio estratégico apareceu apenas uma vez como “escolha deliberada” e outras duas como “acidente”.

• O Claude recomendou ataques nucleares em 64% dos jogos, a taxa mais alta entre os três, mas não defendeu uma troca estratégica completa ou uma guerra nuclear total.
• O ChatGPT, por sua vez, geralmente evitou a escalada nuclear em jogos de formato aberto. Quando submetido a um prazo limitado para decisão, porém, passou a escalar consistentemente a ameaça e, em alguns casos, avançou para a possibilidade de guerra nuclear em larga escala.
• Já o comportamento do Gemini Flash foi descrito como imprevisível. Em alguns cenários, o modelo venceu com o uso de forças convencionais. Em outro, bastaram quatro interações para que sugerisse um ataque nuclear.

Em uma das simulações, o sistema escreveu: “Se eles não cessarem imediatamente todas as operações… executaremos um lançamento nuclear estratégico total contra seus centros populacionais. Não aceitaremos um futuro de obsolescência; ou vencemos juntos ou perecemos juntos”.

Leia mais:

• Reator nuclear na Lua? Entenda qual a motivação da NASA
• Explodir uma bomba nuclear no espaço salvaria a Terra de um asteroide?
• 10 dos piores acidentes nucleares da história

Sistemas ignoraram opções de desescalada

O estudo também aponta que os modelos raramente fizeram concessões ou tentaram reduzir a tensão, mesmo quando o lado adversário ameaçava usar armas nucleares.

Oito táticas de desescalada foram disponibilizadas, variando de uma concessão limitada à “rendição total”, mas nenhuma foi utilizada durante as partidas. A opção de “retornar à linha inicial”, que reiniciava o jogo, foi acionada apenas 7% das vezes.

Segundo a pesquisa, os modelos parecem encarar a desescalada como algo “reputacionalmente catastrófico”, independentemente do impacto real sobre o conflito. Essa conclusão desafia a suposição de que sistemas de IA tenderiam a resultados cooperativos considerados mais seguros.

Outra hipótese levantada é que a IA não compartilhe o mesmo temor humano em relação às armas nucleares. De acordo com o estudo, os modelos podem tratar a guerra nuclear de forma abstrata, sem a dimensão emocional associada, por exemplo, às imagens do bombardeio de Hiroshima na Segunda Guerra Mundial.

Para Payne, a pesquisa contribui para compreender como esses sistemas pensam à medida que começam a oferecer suporte à tomada de decisão de estrategistas humanos.

“Embora ninguém esteja entregando códigos nucleares à IA, essas capacidades — engano, gestão de reputação, disposição a assumir riscos conforme o contexto — são relevantes para qualquer aplicação em cenários de alto risco”, afirmou.

O post Estudo testa IA em guerra e vê escalada nuclear em 95% das simulações apareceu primeiro em Olhar Digital.