Imagens de rostos criadas por inteligência artificial (IA) são vistas como mais confiáveis do que imagens de rostos reais, segundo pesquisadores, que alertam para os riscos de fraudes online e outros danos.

Este é o primeiro estudo a examinar a confiabilidade de rostos de IA criados com a mais recente tecnologia de difusão. A pesquisa foi liderada por Alexis McGuire, com Paul Taylor e Sophie Nightingale, da Universidade de Lancaster, Maty Bohacek, da Universidade de Stanford, e Hany Farid, da Universidade da Califórnia, Berkeley.

Risco de ser enganado por imagens de IA

Alexis McGuire, doutoranda em Psicologia, afirmou ao Phys.org: “Nossa pesquisa mostra que as pessoas correm o risco de serem enganadas por imagens geradas por IA. Esses modelos de IA democratizaram o espaço online e estão acessíveis a qualquer pessoa sem conhecimentos técnicos para criar rostos falsos que podem ser usados para diversos tipos de danos. É importante informar o público sobre a facilidade de criar tais imagens e os possíveis usos indevidos, bem como as maneiras pelas quais podem se tornar vítimas — por exemplo, por meio da disseminação de desinformação, fraude de identidade e catfishing.”

Os humanos são especialistas em processar rostos reais, avaliando automaticamente um rosto em apenas 100 milissegundos. No entanto, os rostos gerados por IA são altamente realistas e estão se tornando mais confiáveis, com tecnologias mais novas e sofisticadas criando imagens falsas capazes de enganar as pessoas cerca de um terço das vezes.

Resultados dos experimentos

• Quando 169 participantes foram solicitados a observar uma coleção de 96 rostos (diversos em raça, gênero e idade), apresentados aleatoriamente, e indicar se cada rosto era real ou sintetizado por IA, sua precisão média foi de 58,4% — apenas ligeiramente melhor do que uma resposta ao acaso (semelhante ao lançamento de uma moeda, com 50%);
• Surpreendentemente, os rostos gerados pelo modelo mais recente de difusão de IA (DM) foram avaliados como menos realistas do que os rostos produzidos por um modelo de IA anterior (GAN);
• Em um experimento subsequente, um novo grupo de participantes foi solicitado a avaliar a confiabilidade de 96 rostos apresentados aleatoriamente, em uma escala de um (muito não confiável) a sete (muito confiável);
• Os rostos reais foram avaliados como os menos confiáveis, com nota média de 4,03. Ambos os tipos de rostos sintetizados por IA foram avaliados como mais confiáveis do que os rostos reais, sendo que os rostos produzidos pelo modelo de difusão (DM) foram considerados mais confiáveis do que os rostos reais e os rostos GAN;
• Os rostos GAN receberam nota média de confiança de 4,36, e os rostos sintetizados por difusão (DM) foram os mais confiáveis, com nota média de 4,70.

Um paradoxo psicológico

Os pesquisadores dizem ser intrigante que os rostos sintetizados pelo modelo mais recente de difusão (DM) tenham sido avaliados como menos realistas do que os produzidos por um modelo anterior (GAN) — mas ainda assim, os rostos DM foram considerados os mais confiáveis.

McGuire disse: “Esse achado apresenta um paradoxo e destaca a possibilidade de que os julgamentos de realismo e confiabilidade sejam impulsionados por dois mecanismos psicológicos diferentes.”

Ela alertou que os rostos de IA gerados com a mais recente tecnologia DM poderiam contribuir para uma erosão geral da confiança na sociedade.

“À medida que as imagens geradas por IA se tornam mais sofisticadas e acessíveis, como sociedade, estamos cada vez mais expostos a rostos artificialmente gerados — muitas vezes em cenários nefastos e exploratórios, como desinformação política, fraude financeira e de identidade, e catfishing. É fundamental compreender a ameaça que essa democratização da IA generativa traz, bem como desenvolver estratégias para mitigar potenciais danos a indivíduos, organizações e democracias.”

Publicação e participação

A pesquisa foi publicada no Journal of Vision, com o título “AI-Generated Faces are Becoming More Trustworthy”.

Qualquer pessoa interessada é incentivada a participar de uma pesquisa online anônima chamada “Examining Individual Differences in the Detection of Real and AI-generated Faces”. Os participantes verão uma série de rostos, um de cada vez, e serão solicitados a avaliar se são reais ou gerados por IA, além de responder a algumas outras perguntas, como avaliar seu nível de confiança. Haverá uma pontuação ao final.

O post Pessoas confiam mais em rostos falsos do que em rostos humanos, diz estudo apareceu primeiro em Olhar Digital.