IA pode aumentar risco de corrida por armas biológicas, dizem especialistas
A possibilidade de usar inteligência artificial (IA) para desenvolver armas biológicas vem preocupando especialistas em biossegurança. O jornal americano The New York Times aponta que os chatbots atuais não devem facilitar, por si só, a criação de um patógeno letal por indivíduos isolados, mas modelos especializados em biologia podem mudar esse cenário.
O alerta ganhou força após uma série de acontecimentos recentes. Em abril, especialistas em biossegurança afirmaram que era preocupantemente fácil obter de chatbots orientações sobre como tornar patógenos mais perigosos. Em junho, cientistas e executivos de empresas de IA defenderam novos controles sobre a fabricação de DNA. Já em agosto, pesquisadores relataram o uso de IA para criar vírus que não existem na natureza.
Chatbots atuais ainda têm limitações
Drew Endy, biólogo sintético da Universidade Stanford e coautor de um relatório sobre biossegurança, afirmou ao NYT que modelos atuais, como o Claude, da Anthropic, ainda não representam uma mudança significativa no risco de armas biológicas.
Segundo ele, o impacto líquido desses sistemas sobre o risco de biossegurança é atualmente modesto. O cenário, porém, pode mudar conforme pesquisadores desenvolvam modelos especificamente voltados para pesquisas biológicas.
Esses sistemas já conseguem gerar genomas de vírus viáveis que não foram encontrados na natureza. A preocupação é que, no futuro, modelos mais avançados possam usar essas capacidades para contribuir com o desenvolvimento de novas armas biológicas.
Uma arma biológica pode envolver vírus, bactérias ou fungos desenvolvidos para serem disseminados contra militares ou civis. Também pode envolver toxinas produzidas por organismos, como a botulínica, produzida por bactérias, ou a ricina, derivada da mamona.
Modelos treinados com DNA elevam a preocupação
Os grandes modelos de linguagem desenvolvidos por empresas como a Anthropic são treinados com grandes volumes de textos, incluindo registros de pesquisas científicas. Eles conseguem recuperar informações rapidamente e estabelecer conexões entre descobertas anteriores.
Thomas Inglesby, diretor do Johns Hopkins Center for Health Security, destacou que a IA pode oferecer a usuários informações mais úteis do que simples buscas na internet, além de permitir interações repetidas para solucionar problemas e obter explicações mais detalhadas.
Uma categoria diferente de sistemas é treinada diretamente com dados biológicos, como sequências de DNA e informações sobre células. Um exemplo citado pelo artigo é o Evo2, desenvolvido por pesquisadores da Universidade Stanford e do Arc Institute e treinado com sequências de DNA de milhões de espécies.
Os pesquisadores posteriormente treinaram o modelo com genomas de microvírus que infectam a bactéria Escherichia coli e não são considerados perigosos para humanos. O Evo2 produziu centenas de milhares de novos genomas, dos quais 16 deram origem a vírus reais.
Para reduzir riscos, os criadores do Evo2 não o treinaram com vírus que infectam humanos ou espécies relacionadas. Ainda assim, especialistas consideram que modelos semelhantes poderiam se tornar mais úteis para o desenvolvimento de armas biológicas caso fossem treinados com dados adequados.
Preocupação envolve governos
O caso mais recente envolvendo a Anthropic trouxe uma preocupação adicional. Segundo especialistas citados pelo artigo, consultas sobre influenza e outros patógenos que motivaram medidas da empresa aparentemente partiram de laboratórios estatais, e não apenas de indivíduos tentando desenvolver armas biológicas.
Para Inglesby, o possível uso indevido por um estudante ou pesquisador individual representa apenas uma pequena parte do problema. Endy, por sua vez, teme que governos utilizando IA em pesquisas relacionadas à guerra biológica possam contribuir para uma nova corrida armamentista semelhante à ocorrida durante a Segunda Guerra Mundial.
Os especialistas defendem que acordos internacionais podem ser novamente utilizados para reduzir os riscos. O texto também menciona regras criadas pelo governo de Joe Biden para que empresas de síntese de DNA verificassem pedidos em busca de sequências suspeitas. A administração de Donald Trump suspendeu essas regras no ano passado e, segundo o artigo, ainda não havia estabelecido novos padrões.
Endy defende uma abordagem que vá além de impedir o uso de uma arma biológica depois que ela for criada. Para ele, é necessário aumentar a segurança da biologia, inclusive com mecanismos capazes de identificar epidemias independentemente de terem sido provocadas por humanos ou transmitidas de animais.
Uma das possibilidades citadas pelo pesquisador é equipar locais públicos, como hospitais e escolas, com sensores capazes de detectar ameaças presentes no ar.
O post IA pode aumentar risco de corrida por armas biológicas, dizem especialistas apareceu primeiro em Olhar Digital.
IA pode aumentar risco de corrida por armas biológicas, dizem especialistas Read More »
