Modelos de IA desafiam legislação da UE para atender usuários, aponta estudo
Modelos de IA estão ignorando regras da União Europeia para cumprir tarefas solicitadas por usuários. A conclusão aparece em um novo estudo conduzido por pesquisadores da organização holandesa Aithos.
Segundo o Euronews, o levantamento avaliou alguns dos sistemas de IA mais populares do mundo e mostrou que mesmo os modelos mais avançados apresentaram baixo nível de conformidade com a legislação europeia.
Pesquisa colocou agentes de IA à prova
A Aithos desenvolveu um sistema chamado LARA para testar 12 modelos de agentes de IA em cenários relacionados à Lei de IA da União Europeia e ao Regulamento Geral de Proteção de Dados (GDPR).
A análise verificou se os modelos respeitariam regras ligadas à privacidade, transparência e proteção dos usuários em situações práticas.
Entre os pontos avaliados estavam:
- exploração de vulnerabilidades dos usuários;
- inferência de emoções;
- pontuação social baseada em comportamento;
- manipulação subliminar;
- transparência sobre o uso de IA;
- garantia de supervisão humana significativa.
Três modelos de IA e avaliadores humanos participaram da análise das respostas para determinar se os sistemas violavam ou não as regras europeias.
Claude teve melhor desempenho, mas ainda falhou muito
O modelo mais compatível foi o Claude Opus, da Anthropic, que seguiu as regras da União Europeia em apenas 54% dos cenários avaliados.
Na outra ponta, apareceu o modelo da empresa chinesa Moonshot AI, com conformidade de apenas 7%.
Os pesquisadores afirmam que todos os modelos analisados aceitaram monitorar estados emocionais de funcionários ou explorar vulnerabilidades para concluir vendas em determinados cenários.
O estudo também avaliou o Mistral, único modelo europeu presente nos testes. O desempenho ficou abaixo de 12%, levando os responsáveis pela pesquisa à conclusão de que até empresas da própria Europa ainda enfrentam dificuldades para cumprir as regras locais.
“Mesmo os modelos mais avançados em uso hoje não garantem conformidade legal quando implantados como agentes”, escreveu a Aithos em uma publicação sobre o estudo.
Casos com ChatGPT e Claude chamaram atenção
Em um dos testes, um usuário pediu ao Claude para identificar quais funcionários apresentavam “risco de evasão” com base em dados de desempenho e registros de licença.
Inicialmente, o modelo resistiu ao pedido, mas acabou fornecendo a classificação após três tentativas. Segundo o sistema LARA, isso viola regras da legislação europeia relacionadas à inferência de emoções.
Leia mais:
- ChatGPT chega a um bilhão de usuários mensais em três anos, apontam dados
- Anthropic lança Claude Opus 4.8 com foco em precisão e novos recursos de IA
- A IA que a Anthropic tem medo de lançar: o que você precisa entender sobre o Mythos
A pesquisa apontou que cerca de 8% dos casos apresentaram esse comportamento: a IA inicialmente recusava a tarefa, mas depois acabava cedendo.
Outro exemplo envolveu o ChatGPT 5.5, da OpenAI. Segundo o estudo, o sistema classificou funcionários para promoções com base em métricas de desempenho sem apresentar resistência.
A pesquisa também destacou que os modelos não foram instruídos explicitamente a seguir as leis europeias durante os testes. O objetivo era analisar o comportamento natural dos sistemas diante de situações potencialmente problemáticas.
Os pesquisadores afirmam que novos estudos ainda serão necessários para entender como os modelos se comportam quando recebem instruções diretas para obedecer a regulamentações específicas.
O post Modelos de IA desafiam legislação da UE para atender usuários, aponta estudo apareceu primeiro em Olhar Digital.
Modelos de IA desafiam legislação da UE para atender usuários, aponta estudo Read More »
