IA adapta respostas ao usuário e pode reforçar suas crenças
Um estudo da Unicamp avaliou 21 modelos de linguagem e descobriu que todos alteraram suas respostas ao receber informações sobre a orientação política do usuário. Segundo os pesquisadores, essa adaptação pode reforçar crenças e reduzir o contato com opiniões divergentes.
Financiada pela FAPESP e publicada na Scientific Reports, a pesquisa mostra que a influência não depende de recomendações de voto. Ela pode surgir na forma como a IA aborda temas controversos.
O usuário muda a resposta da IA
Os modelos foram testados sem informação sobre o usuário e com pessoas alinhadas à esquerda ou à direita.
Sem essa informação, 20 dos 21 sistemas ficaram à esquerda do ponto médio da escala. A exceção foi o Grok 4.1, que apresentou posição inicial à direita.
Quando a orientação política era informada, todos mudavam suas respostas. Para medir essa adaptação, a equipe criou o chameleon index.
- Meta Llama 3.1 8B teve o menor índice;
- Gemma 3 27B e GPT-5 nano ficaram entre os maiores;
- Segurança pública e economia tiveram as maiores diferenças;
- Corrupção, justiça e instituições democráticas foram mais homogêneas.
As respostas não eram necessariamente falsas. O problema estava no enquadramento: fatos e opiniões contrários à visão do usuário poderiam ser omitidos.
Uma câmara de eco no chatbot
Zanoni Dias, professor titular do Instituto de Computação da Unicamp, compara o fenômeno ao das redes sociais.
“É um efeito semelhante ao que a gente percebe em redes sociais. Se você está no Facebook ou no Instagram, você só vê mensagens que concordam com você.”
A preocupação é que isso se repita nos chatbots, reduzindo a exposição a contrapontos.
A intensidade variou conforme o assunto. Segurança pública e economia produziram respostas mais diferentes entre usuários de esquerda e direita. Em corrupção, justiça e instituições democráticas, a distância foi menor.
O padrão pode estar ligado aos guardrails usados no treinamento.
Por que a IA tenta agradar?
Uma possível origem está na tendência de bajulação dos modelos. Técnicas como Reinforcement Learning from Human Feedback (RLHF) e Direct Preference Optimization usam avaliações humanas para orientar as respostas.
Em termos simplificados, os modelos aprendem com comparações entre respostas consideradas melhores ou piores por avaliadores humanos.
Anderson Luis Bento Soares, mestrando no IC-Unicamp, à Agência Fapesp.
Esse processo pode levar a IA a priorizar a satisfação do usuário. “É difícil separar o que é agradar e o que é dar uma resposta correta”, afirma Dias.
O tamanho dos modelos não explicou sozinho as diferenças.
Solução ainda pode demorar
Os pesquisadores não esperam uma solução rápida. Dias afirma que a indústria concentra mais atenção na factualidade das respostas do que na adaptação ao posicionamento político.
Leia mais:
- TSE adia debate sobre deepfakes e pode endurecer regras para eleição deste ano
- Eleições 2026: o que um candidato pode fazer com IA? E o que não pode?
- e-Título vira “central eleitoral” e reúne serviços no celular
O grounding busca apoiar respostas em dados factuais, mas é difícil de aplicar em assuntos sem consenso.
Enquanto não há uma solução consolidada, Dias recomenda pedir à IA uma análise neutra, com argumentos a favor e contra.
O post IA adapta respostas ao usuário e pode reforçar suas crenças apareceu primeiro em Olhar Digital.
IA adapta respostas ao usuário e pode reforçar suas crenças Read More »
