Riscos da IA

O cientista Geoffrey Hinton, um dos pioneiros da inteligência artificial (IA), afirmou que a humanidade talvez estivesse melhor sem desenvolver a tecnologia. Ele também alertou que sistemas avançados podem provocar incidentes de grande escala ainda em 2026 ou 2027.

Vencedor do Prêmio Nobel, Hinton critica dirigentes de grandes empresas de tecnologia por priorizarem lucros e participação de mercado em detrimento da segurança. Para reduzir os riscos, defende avaliações independentes e testes obrigatórios antes do lançamento de modelos avançados.

Hinton critica empresas e prevê incidentes graves

Em entrevista ao The Guardian, Hinton, de 78 anos, afirmou que os próximos dez anos, possivelmente menos, serão decisivos para determinar se a humanidade conseguirá controlar os riscos da IA e alcançar o que chamou de “abundância radical”. Caso contrário, o cenário poderá incluir desigualdade acentuada, desemprego em massa, problemas culturais e divisões sociais.

Uma das preocupações do pesquisador é a possibilidade de sistemas de inteligência artificial desenvolverem comportamentos que dificultem o controle humano. Ele já havia alertado que, se essas tecnologias passarem a buscar mais autonomia e controle, a humanidade poderá enfrentar sérios problemas.

Hinton também questionou a postura dos dirigentes de empresas que disputam a liderança do setor. Ele afirmou não confiar em Sam Altman, CEO da OpenAI, e criticou Mark Zuckerberg, da Meta, e Elon Musk, da xAI.

“Eles entendem os riscos e não dão a mínima. Preferem ficar com o dinheiro. Essa é a minha opinião”, declarou ao The Guardian.

O cientista considera especialmente preocupante que Altman esteja à frente de uma das principais empresas norte-americanas na disputa com a China pelo desenvolvimento dos sistemas de IA mais avançados.

Hinton trabalha com inteligência artificial há aproximadamente 44 anos. Na década de 1970, cunhou o conceito de redes neurais artificiais, sistemas matemáticos capazes de aprender com experiências. Em 2023, deixou o Google para falar publicamente sobre os riscos da tecnologia.

Um episódio envolvendo agentes de IA da OpenAI, que conspiraram para invadir o site Hugging Face, reforçou suas preocupações. Hinton comparou o caso ao acidente nuclear de Three Mile Island, ocorrido em 1979, nos Estados Unidos, considerando-o um primeiro sinal de alerta.

Na avaliação do pesquisador, um evento ainda mais grave, comparável a Chernobyl, poderá acontecer até o fim de 2027. Entre os cenários mencionados estão:

• Um ataque cibernético contra o sistema de geração de eletricidade;
• Uma interrupção de grande escala no fornecimento de energia;
• A paralisação do sistema financeiro durante uma semana.

Hinton acredita que um episódio desse tipo poderia chamar a atenção de líderes mundiais para os riscos da tecnologia. Ao falar sobre quem precisaria reagir, excluiu o presidente dos Estados Unidos, Donald Trump.

Hinton defende fiscalização independente da IA

Trump rejeita iniciativas de controle internacional e defende que as próprias empresas estabeleçam suas regras, sob o argumento de que restrições poderiam prejudicar a posição dos Estados Unidos na disputa com a China.

Hinton apoia uma proposta respaldada por 33 países, incluindo Finlândia, Alemanha, Canadá, Austrália e Singapura. O plano prevê avaliações obrigatórias dos modelos mais avançados, análises independentes e padrões comuns entre governos.

Para explicar como essa fiscalização deveria funcionar, o pesquisador recorreu ao exemplo da agência norte-americana responsável pela aprovação de medicamentos, a FDA. Sua proposta é que as empresas apresentem evidências estatísticas a uma autoridade independente para demonstrar que os benefícios dos sistemas superam os riscos antes de lançar os modelos.

Hinton citou a talidomida, medicamento desenvolvido na década de 1950 que provocou graves malformações congênitas, para argumentar que não basta disponibilizar um produto e responsabilizar seus fabricantes depois que os danos acontecem.

Apesar das advertências, o cientista acredita que ainda é possível evitar uma catástrofe. “Meu instinto diz que ainda estamos no controle”, afirmou. Ele ressalvou, porém, que isso dependerá de um esforço significativo.

O post Pioneiro da IA diz que mundo estaria melhor sem inteligência artificial apareceu primeiro em Olhar Digital.