A aliança inédita entre Anthropic e Vaticano que busca impor limites à IA
O papa Leão XIV criticou o avanço da inteligência artificial (IA) e a concentração de poder em big techs na sua primeira encíclica, intitulada “Magnifica Humanitas”. Durante o evento no Vaticano, o cofundador da Anthropic, Christopher Olah, disse que o desenvolvimento da IA não pode ficar restrito às empresas.
Para o pontífice, a IA precisa estar submetida às “mais rigorosas restrições éticas”, especialmente no que diz respeito a aplicações militares. E Olah defendeu maior supervisão de governos, líderes religiosos e da sociedade civil sobre a tecnologia.
Governança da IA exige fiscalização externa e debate ético mundo afora
Sendo o único representante de uma empresa de tecnologia convidado para o evento no Vaticano, Olah justificou sua presença destacando sua trajetória dedicada à segurança da IA e o diálogo frequente que mantém com comunidades religiosas. O executivo disse já ter debatido os dilemas éticos trazidos pela tecnologia com integrantes de mais de 15 religiões ao longo de sua carreira.
“Cada laboratório de IA opera dentro de um conjunto de incentivos e restrições que às vezes podem conflitar com fazer a coisa certa“, apontou Olah ao ressaltar que mesmo pesquisadores bem-intencionados são afetados por essas forças comerciais e geopolíticas.
Diante disso, ele reforçou a necessidade de auditoria externa. E alertou para “uma possibilidade real” de a IA substituir postos de trabalho em larga escala. “Se isso acontecer, apoiar aqueles que forem deslocados será um imperativo moral de proporções históricas”, declarou o canadense.
O cofundador da startup também direcionou críticas à autossuficiência do meio técnico e expressou preocupação com o atual estágio de evolução dos grandes modelos de linguagem (LLMs, na sigla em inglês). “Alguns podem acreditar que as questões de IA são mais bem tratadas por cientistas da computação como eu. Eles estão enganados.”
O especialista também demonstrou apreensão com o ritmo do setor: “Acho que este é um momento assustador. As coisas estão mudando rápido. É uma tecnologia realmente poderosa“. Olah complementou afirmando que “existe o risco de as coisas correrem mal, e cabe a todos nós empurrar isso numa boa direção”.
O papa Leão XIV agradeceu a Olah pela oportunidade de “juntos encontrarmos o caminho para a humanidade neste tempo de inteligência artificial”. Essa colaboração próxima entre a Igreja e um empresário do setor tecnológico foi classificada por especialistas como um fato sem precedentes.
“Estamos neste território estranho e desconhecido no qual a política, os negócios e agora a religião estão tão intimamente ligados uns aos outros“, analisou Margaret O’Mara, historiadora de tecnologia da Universidade de Washington, em entrevista ao The Washington Post.
O’Mara relembrou que, em 1891, o papa Leão XIII publicou uma encíclica contra os impactos da Revolução Industrial e do capitalismo desenfreado sem contar com a cooperação de nenhum capitalista.
Essa convergência em Roma aprofunda o isolamento político da Anthropic em Washington, onde a empresa enfrenta forte oposição interna. Críticos alinhados à administração Trump, como o investidor Jason Calacanis, acusam o CEO da startup, Dario Amodei, de assustar o público desnecessariamente.
O governo norte-americano adota uma postura de fomento acelerado à tecnologia para rivalizar com a China, colidindo frontalmente com as restrições contratuais exigidas pela Anthropic ao Pentágono para impedir o uso de seus modelos, como o recém-lançado Mythos, em sistemas de vigilância doméstica ou em armas autônomas.
(Essa matéria também usou informações da Reuters.)
O post A aliança inédita entre Anthropic e Vaticano que busca impor limites à IA apareceu primeiro em Olhar Digital.
A aliança inédita entre Anthropic e Vaticano que busca impor limites à IA Read More »
