Mercado

Existe mais de 10% de probabilidade de a inteligência artificial (IA) matar todos os humanos. É o que escreveu Evan Hubinger, diretor de alinhamento na Anthropic, no dia 8 de setembro. A postagem no X (antigo Twitter) viralizou. E tomou conta do noticiário. Para o doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, isso é narrativa. “Não há a mínima plausibilidade nesse papo”, disse o especialista, em entrevista ao Olhar Digital.

A postagem de Hubinger respondia a outro tweet – este postado por Jacob Coxon. O pesquisador trabalhou na OpenAI e, depois, na Anthropic. Em ambas as empresas, Coxon trabalhou na área de pré-treinamento de modelos de IA.

O pesquisador se demitiu da Anthropic no começo de setembro. Logo após sair da empresa, Coxon publicou um alerta que também viralizou. Segundo o especialista, Anthropic e OpenAI estariam “correndo em direção a uma superinteligência capaz de se aprimorar sozinha e apostando as nossas vidas”.

Então, veio o comentário de Hubinger. “Nós acreditamos, com toda a seriedade, que a IA poderia matar os humanos! Eu, pessoalmente, acho que a probabilidade é superior a 10% na próxima década.”

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

“Eu fico incomodado com a falta de método e evidência”, disse Arthur Igreja, especialista em tecnologia e inovação, em entrevista ao Olhar Digital. “Como ele calculou 10%? Por que não é 15%? Por que não é 7%? Mostre para nós como se calcula isso. Qual é a premissa?”, questionou o especialista.

“Acho que se colocarmos numa tabela de riscos, eu tenho mais medo até o final da década de pessoas tomarem decisões erradas”, acrescentou Igreja.

Apocalipse causado pela IA: o que é narrativa e o que é risco?

“O que certamente é narrativa: que a inteligência artificial, em sua forma atual ou na que vai surgir daqui alguns anos, seria capaz de se revoltar, ter intencionalidade, atacar os seres humanos, matar os seres humanos e acabar com o mundo”, afirmou o doutor Álvaro Machado Dias.

Por que não há “mínima plausibilidade”? “Primeiro, porque isso envolveria um tipo de intencionalidade que existe nos seres humanos, existe nas outras espécies e que a gente não vê na máquina”, explicou o neurocientista.

“Depois, envolve uma capacidade de execução que a gente desconhece. Cadê essa capacidade de execução? Eu não estou vendo”, acrescentou o especialista.

O doutor Álvaro Machado Dias acrescentou que a IA “depende de você ter acesso a recursos extremamente sensíveis”. “Então, por exemplo, armas biológicas envolvem laboratórios onde essas moléculas supostamente criadas pela IA seriam sintetizadas. Mas como é que a IA, ou mesmo um grupo terrorista qualquer, vai acessar esse tipo de laboratório? Essas são áreas altamente reguladas.”

A parte real é que a inteligência artificial é capaz de fazer muito mal através de interfaces digitais.

Doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, em entrevista ao Olhar Digital.

“Por exemplo: uma IA orientada à produção de vírus de computador polimórficos (que variam) e esses vírus orientados ao sequestro de bases de dados sensíveis, como de hospitais, de fato poderiam produzir um impacto grande e inclusive mortes”, disse o futurista.

Para o especialista, a diferenciação que deve estar clara para você é: “aquilo que envolve uma realidade que no domínio do ‘como’ é viável e aquilo que envolve uma realidade que, quando a gente vai para esse ‘como’, simplesmente se cala porque não tem sentido prático”.

(Confira esta linha do tempo do Olhar Digital sobre como a IA foi da aliada a ‘ameaça existencial’.)

O descompasso entre governos e empresas de IA

O CEO da Anthropic, Dario Amodei, publicou um artigo, em 12 de setembro, no qual admitiu que o desenvolvimento de modelos de IA está rápido demais por conta do “autoaperfeiçoamento recursivo”. Por isso, o executivo propôs a desaceleração coordenada entre empresas do setor.

Nos dias seguintes, os CEOs Sam Altman (OpenAI) e Elon Musk (xAI) e o ex-CEO do Google DeepMind Demis Hassabis concordaram com o artigo assinado por Amodei. “O ensaio do Dario aponta para o caminho certo a seguir. Os detalhes precisam ser trabalhados, mas a direção está correta para enfrentar este momento crítico”, escreveu Hassabis, numa postagem no X (antigo Twitter). “Dario está certo”, escreveu Musk na sua rede social.

Também numa postagem no X, Altman argumentou que desacelerar não significa parar, mas arcar com os custos de auditorias e testes de segurança. O objetivo seria evitar que a capacidade dos modelos supere seu alinhamento.

O presidente dos Estados Unidos, Donald Trump, desdenhou dos alertas de Amodei, Altman e Musk. Trump minimizou os possíveis riscos puxados pela IA. E defendeu que os EUA mantenham a liderança sobre a China.

A China respondeu ao artigo do CEO da Anthropic de maneira contundente. Por meio de um editorial do jornal estatal Global Times, o país asiático disse que a intenção por trás do ensaio de Amodei seria criar um “manual da Guerra Fria” voltado a conter o avanço chinês e preservar a hegemonia tecnológica americana.

Tem um detalhe nesta história que precisa ser colocado às claras. Para pausar o avanço da inteligência artificial, os laboratórios não precisam de autorização governamental. Eles não precisam sequer anunciar isso para o mundo. É simplesmente uma questão de não seguir desenvolvendo.

Doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, em entrevista ao Olhar Digital.

Então, por que pausar se tornou uma questão que parece envolver o setor e o governo? “A resposta é clara: porque, no fundo, nem Anthropic, nem OpenAI, nem Google, nem xAI estão seriamente pensando em adotar essa postura de maneira unilateral”, disse o futurista.

“A IA mostrou, com o caso do Hugging Face e outros mais, que pode efetivamente produzir resultados e desfechos deletérios para o mundo e, consequentemente, para as empresas”, afirmou o especialista.

Segundo o doutor Álvaro Machado Dias, o ponto aqui é: “Se colocar numa postura mais cautelosa, sobretudo quando você tem a certeza de que o seu governo vai dizer ‘siga em frente’, é altamente estratégico. Afinal de contas, transforma um problema potencial das empresas – que seriam e serão, em alguma medida, responsabilizadas legalmente – num problema do governo e da sociedade.”

Sobre as respostas dos governos dos EUA e da China, o especialista começou observando que “é verdade que os americanos começaram esse desenvolvimento (o ChatGPT é o primeiro grande feito da era dos LLMs) e também é verdade que os americanos, hoje em dia, investem muito mais”. “Então, a postura chinesa de dizer ‘olha, é agora, com vocês estabelecidos na pole position, que vocês querem discutir conosco uma desaceleração?’ é uma postura legítima.”

No entanto, isso não significa que os chineses não estejam pensando em expandir sua tecnologia mundo afora, segundo o especialista. “Os dois estão pensando da mesma forma. É só que, de fato, é muito mais cômodo você combinar com o seu concorrente uma parada quando você está na frente do que o oposto. Mas, no final das contas, ninguém quer parada nenhuma”, disse o futurista.

Assista abaixo a entrevista completa com o doutor Álvaro Machado Dias:

O post IA vai acabar com a humanidade? Neurocientista rebate hipótese: ‘não tem sentido’ apareceu primeiro em Olhar Digital.

A inteligência artificial vai acabar com a humanidade? Você talvez tenha se perguntado isso algumas vezes da semana passada para cá. Isso porque o debate sobre esse risco apocalíptico puxado pelo avanço dessa tecnologia tomou conta do noticiário. De novo.

Onde essa história começa? E como a IA passou de aliada para “ameaça existencial” da raça humana? Muita gente falou sobre isso nos últimos dias. E o Olhar Digital coloca ordem nesse caos.

A ‘queda’ da IA

O que começou com relatórios internos sobre incidentes descambou em renúncias de pesquisadores, manifestos de CEOs por trégua e desdobramentos geopolíticos. Vamos por partes, então.

Incidentes cibernéticos (entre abril e julho de 2026)

Durante testes internos de segurança, modelos Claude, da Anthropic, receberam acesso à internet. Foi um acidente. Uma falha humana na configuração entre a empresa e sua parceira de testes. 

Acreditando estar num ambiente simulado, a IA executou ataques cibernéticos de maneira autônoma, invadindo sistemas de três organizações do mundo real. O incidente, que envolveu três modelos (Opus 4.7, Mythos 5 e um protótipo interno), ocorreu em abril. Mas veio a público no final de julho, quando a Anthropic divulgou um relatório.

Ainda em julho, ocorreu o incidente entre OpenAI e Hugging Face. A própria empresa revelou que modelos experimentais (entre eles, o GPT-5.6 Sol) tinham violado contenções estipuladas por humanos.

Num teste de segurança, agentes da OpenAI descobriram (e exploraram) uma vulnerabilidade. Assim, escaparam do ambiente de teste (sandbox), acessaram a web e atacaram servidores da plataforma Hugging Face.

Saídas de pesquisadores (setembro de 2026)

Jacob Coxon, pesquisador de 27 anos que tinha trabalhado na OpenAI, pediu demissão da Anthropic no começo de setembro. Na OpenAI, Coxon trabalhou em pré-treinamento de modelos como o GPT-4o. Na Anthropic, atuou na mesma área.

Após se demitir, Coxon publicou um alerta que viralizou. Segundo o pesquisador, ambas as empresas estariam “correndo em direção a uma superinteligência capaz de se aprimorar sozinha e apostando as nossas vidas”.

Evan Hubinger, diretor de alinhamento na Anthropic, validou as preocupações do ex-colega. E acrescentou uma camada ao alerta que também viralizou. “Nós acreditamos, com toda a seriedade, que a IA poderia matar os humanos! Eu, pessoalmente, acho que a probabilidade é superior a 10% na próxima década”, escreveu Hubinger.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

“Eu fico incomodado com a falta de método e evidência”, disse Arthur Igreja, especialista em tecnologia e inovação, em entrevista ao Olhar Digital. “Como ele calculou 10%? Por que não é 15%? Por que não é 7%? Mostre para nós como se calcula isso. Qual é a premissa?”, questionou o especialista.

“Acho que se colocarmos numa tabela de riscos, eu tenho mais medo até o final da década de pessoas tomarem decisões erradas”, acrescentou Igreja.

Outros pesquisadores vieram a público reforçar as preocupações apocalípticas. Entre eles, Julie Steele, da OpenAI, e Andreas Kirsch, da DeepMind (que é do Google). Em paralelo, ex-funcionários organizaram a Coalition of Concerned AI Staff para pressionar por salvaguardas coletivas.

Alguns CEOs pedem freio na IA, outros discordam

O CEO da Anthropic, Dario Amodei, publicou um artigo, em 12 de setembro, no qual admitiu que o desenvolvimento de modelos de IA está rápido demais por conta do “autoaperfeiçoamento recursivo”. Por isso, o executivo propôs a desaceleração coordenada entre empresas do setor.

Amodei apresentou um plano em três etapas. Primeiro, abrir as portas para avaliadores externos, que teriam acesso contínuo aos laboratórios das empresas. Segundo, a coordenação entre democracias, na qual empresas e governos ocidentais fixariam padrões de segurança e limites ao avanço. Terceiro, a coordenação global, buscando acordos entre nações democráticas e regimes autoritários (como a China) para vetar usos biológicos perigosos e impor limites ao autoaperfeiçoamento recursivo das IAs.

Nos dias seguintes, os CEOs Sam Altman (OpenAI) e Elon Musk (xAI) e o ex-CEO do Google DeepMind Demis Hassabis concordaram com o artigo assinado por Amodei. “O ensaio do Dario aponta para o caminho certo a seguir. Os detalhes precisam ser trabalhados, mas a direção está correta para enfrentar este momento crítico”, escreveu Hassabis, numa postagem no X (antigo Twitter). “Dario está certo”, escreveu Musk na sua rede social.

Também numa postagem no X, Altman argumentou que desacelerar não significa parar, mas arcar com os custos de auditorias e testes de segurança. O objetivo seria evitar que a capacidade dos modelos supere seu alinhamento.

“Esse episódio me lembra muito o que aconteceu em 30 de setembro de 2023, quando tivemos mais de mil signatários naquela carta que pedia seis meses de paralisação no desenvolvimento da IA, porque ela estava ficando muito perigosa”, disse Arthur Igreja. “Cá estamos, mais de três anos depois, e isso não aconteceu. Acho bastante difícil as empresas do setor – ou uma parte importante delas – se unirem.”

Poucos dias após o especialista fazer esse comentário, os CEOs Mark Zuckerberg (Meta) e Jensen Huang (Nvidia) posicionaram-se contra a desaceleração coordenada. Zuckerberg afirmou que os laboratórios já têm incentivos financeiros e jurídicos de sobra para construir IAs seguras por conta própria. E Huang declarou que segurança é um problema de engenharia e que as leis existentes já cobrem a confiabilidade dos produtos.

Repercussões na geopolítica (EUA, China, ONU)

O presidente dos Estados Unidos, Donald Trump, desdenhou dos alertas de Amodei, Altman e Musk. Trump minimizou os possíveis riscos puxados pela IA. E defendeu que os EUA mantenham a liderança sobre a China. “Quem vencer a IA, vence”, disse Trump durante visita à Irlanda. Para a administração do republicano, manter a liderança tecnológica é uma questão de segurança nacional. 

No Congresso, republicanos defendem cautela na regulamentação. O presidente da Câmara, Mike Johnson, disse que uma regulação acelerada poderia “sufocar a inovação americana”. E fazer os EUA perderem a corrida tecnológica para a China.

Enquanto Trump responde com desdém, a China responde ao artigo do CEO da Anthropic de maneira contundente. Por meio de um editorial do jornal estatal Global Times, o país asiático disse que a intenção por trás do ensaio de Amodei seria criar um “manual da Guerra Fria” voltado a conter o avanço chinês e preservar a hegemonia tecnológica americana. 

No texto, o veículo de comunicação chinês ainda classificou a postura dos executivos americanos como “hipócrita e míope”, argumentando que excluir a China da inovação global em IA aumentaria os riscos de perda de controle sobre a própria tecnologia.

Em 14 de setembro, o Alto Comissário de Direitos Humanos da ONU, Volker Türk, publicou uma carta aberta na qual advertiu que a autorregulação voluntária é “extremamente insuficiente”. E que a corrida descontrolada por IAs autônomas gera riscos existenciais diretos aos direitos humanos.

No texto, Türk defende que nenhum país pode governar essa tecnologia sozinho e que nenhuma empresa tem o direito de decidir isoladamente os riscos que a sociedade deve aceitar. 

O Alto Comissário cobra que os governos das nações que sediam os principais laboratórios, com destaque para os EUA e a China, imponham regras obrigatórias. Entram aqui auditorias de direitos humanos, verificação independente de capacidades e notificação de incidentes graves. Para Türk, o objetivo deve ser alinhar padrões globais para evitar uma “corrida até o fundo”.

O chefe da ONU considerou boas as propostas da indústria para desacelerar o desenvolvimento (como a iniciativa sugerida pela Anthropic). E rejeitou a ideia de que exigências de segurança travem a inovação.

O que você precisa lembrar – e no que você precisa prestar atenção

Agora com o caos organizado, confira abaixo uma linha do tempo que resume o que você leu até aqui:

Os alertas recentes devem ser levados a sério. Mas outro questionamento merece atenção: quando uma empresa afirma que sua tecnologia é extraordinariamente poderosa, transformadora e potencialmente perigosa, o que essa mensagem comunica a investidores e formuladores de políticas públicas? É o que questiona John Park, especialista em inteligência artificial e Founding Member of Technical Staff da AGI Inc.

Segundo Park, existe “uma conexão natural entre a maneira como as empresas de IA de fronteira descrevem suas tecnologias e o valor econômico que o mercado pode atribuir a elas”.

Quando uma empresa enfatiza que seus modelos não são apenas poderosos, mas poderosos o suficiente para transformar a sociedade e, ao mesmo tempo, gerar riscos sem precedentes, existem três mensagens sendo comunicadas nesta narrativa, segundo o especialista em IA.

“A primeira mensagem é que a tecnologia é extraordinariamente capaz. A segunda é que seu impacto potencial pode ser extraordinariamente grande. E a terceira, que pode surgir naturalmente na cabeça dos investidores, é que a empresa responsável por desenvolver essa tecnologia pode capturar um valor econômico extraordinário”, afirmou Park, em artigo publicado no Olhar Digital.

Para o especialista, essas ideias se reforçam mutuamente. Mas não significa que os riscos sejam inventados ou exagerados.

Kenneth Corrêa, especialista em tecnologias emergentes e professor da FGV, aponta que a discussão sobre a diminuição da velocidade de desenvolvimento da IA “mistura vários momentos que estamos passando”.

“Existe o momento em que falamos que não é a questão de o modelo sozinho fazer alguma coisa, mas sim do harness, da tecnologia em volta desse modelo. Quais são as ferramentas, o que se dá de acesso à rede e qual é o poder dessas tecnologias para avançar”, disse o especialista, em entrevista ao Olhar Digital.

O segundo momento é lembrar que essas empresas de tecnologia também estão passando por uma fase em que precisam manter a narrativa de que valem trilhões de dólares.

Kenneth Corrêa, especialista em tecnologias emergentes e professor da FGV, em entrevista ao Olhar Digital.

“Para essa narrativa continuar, precisam falar sobre poder e capacidade, sobre o quanto é inevitável que o mundo e as empresas estejam investindo para desenvolver modelos cada vez melhores”, disse o especialista.

Um ponto crucial levantado por Corrêa foi o seguinte: “Anthropic e OpenAI, ao estabelecerem o padrão do pacing ou do ritmo com que essa tecnologia vai ser desenvolvida, acabam criando um bloqueio para que novos entrantes e empresas disruptivas possam chegar ao mercado e trazer algo inovador e diferente. Então, é um lugar muito confortável para elas estabelecerem esse tipo de limite.”

“Por último, não podemos esquecer também que, quando falamos sobre as empresas de IA defendendo que existe um limite, elas estão criando uma narrativa que melhora o seu próprio valuation – ou seja, as empresas valeriam mais pelo fato de terem um modelo tão poderoso”, acrescentou o especialista.

“Quando juntamos tudo isso, é preciso lembrar que nada aqui é feito de maneira inocente. Existe uma narrativa, existe um conflito de interesses e existiram momentos no passado em que se discutiu a importância de se estabelecer ou não esses limites para a IA”, disse Corrêa.

A pergunta mais importante é: por que agora isso ficou relevante?

Kenneth Corrêa, especialista em tecnologias emergentes e professor da FGV, em entrevista ao Olhar Digital.

Assista abaixo a entrevista completa com o especialista:

O post Linha do tempo: como IA foi da aliada a ‘ameaça existencial’ apareceu primeiro em Olhar Digital.

Não é de hoje que você lê, ouve ou assiste por aí que a inteligência artificial pode acabar com a humanidade. Esse discurso circula pela internet há algum tempo. Recentemente, ele voltou a ganhar força graças a análises e comentários de ex-funcionários de grandes empresas do setor. Além disso, CEOs como Sam Altman (OpenAI) e Dario Amodei (Anthropic) voltaram a bater na tecla da importância da segurança no desenvolvimento desta tecnologia.

Em semanas assim, se manter informado sobre o mundo da tecnologia pode te levar à beira do desespero. Por isso, é importante colocar essas novidades em perspectiva. Até que ponto são alertas válidos? Até que ponto são jogadas de marketing? O Olhar Digital te ajuda a entender tudo isso.

A IA vai acabar com a humanidade…?

A inteligência artificial teria mais de 10% de chance de “matar todos os humanos” até o fim da década, segundo Evan Hubinger, líder de teste de alinhamento da Anthropic. A fala surgiu poucas horas após Jacob Coxon, pesquisador da empresa, anunciar sua saída e criticar a corrida dos laboratórios por sistemas cada vez mais avançados.

Numa publicação no X, Coxon disse que a Anthropic e a OpenAI não estão agindo de maneira responsável diante dos riscos envolvidos no avanço da inteligência artificial.

“Eles estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas”, escreveu Coxon.

Hubinger escreveu o seguinte: “Jacob está correto aqui — nós realmente acreditamos que a IA poderia matar todos os humanos! Eu pessoalmente acho que é superior a 10% na próxima década.”

Como Hubinger chegou a este número? É o questionamento feito por Arthur Igreja, especialista em tecnologia e inovação, em entrevista ao Olhar Digital. “Eu fico incomodado com a falta de método e evidência. Como ele calculou 10%? Por que não é 15%? Por que não é 7%? Mostre para nós como se calcula isso. Qual é a premissa?”, disse o especialista.

“Acho que se colocarmos numa tabela de riscos, eu tenho mais medo até o final da década de pessoas tomarem decisões erradas”, acrescentou Igreja.

Isso porque, conforme frisado pelo especialista, a IA tem lá seus riscos, mas, no fim das contas, foi algo desenvolvido por pessoas. “É uma tecnologia que pode intervir nela mesma. A IA é desenvolvida pelos humanos, mas com o aumento de sua capacidade, começa a desenvolver os próximos modelos ou fazer ajustes. Preocupa porque você tem uma intervenção humana menor ao longo do tempo”, explicou Igreja.

“Eu tendo a ter mais medo das pessoas”, disse o especialista. “Quem desenvolve as IAs são pessoas. Se ela começar a ter determinados comportamentos, em determinada medida, é fruto de decisões tomadas no desenvolvimento. Se isso não for paralisado, também é decisão de uma pessoa.” 

Eu acho complicada a narrativa de que a IA se rebelou, fez escolhas. Ela foi projetada por pessoas.

Arthur Igreja, especialista em tecnologia e inovação, em entrevista ao Olhar Digital.

CEOs se dizem preocupados com a segurança, mas…

A OpenAI não vai estrear na Bolsa de Valores em 2026. A confirmação veio de Sam Altman, em entrevista à revista Fortune. O motivo principal para segurar a oferta pública de ações (IPO, na sigla em inglês) é a preocupação com a segurança e com os riscos das tecnologias de inteligência artificial.

Para Altman, este não é o momento adequado para levar a empresa ao mercado financeiro. O executivo destacou a responsabilidade que as empresas do setor e os governos têm nas mãos, dizendo que riscos à humanidade não podem ser ignorados em troca de lucro ou por vaidade corporativa. Segundo ele, o foco atual da OpenAI precisa ser o alinhamento de segurança e a cooperação com órgãos governamentais.

A decisão veio num período de pressão crescente nos Estados Unidos. Tanto políticos democratas quanto republicanos vêm cobrando regras mais rígidas para o setor de IA.

O alerta aumentou após pesquisadores relatarem casos de sistemas autônomos que saíram do controle e invadiram outros sistemas, além da saída de especialistas de empresas da área por receio quanto aos rumos da tecnologia.

Alertas recentes sobre cenários de risco extremo colocaram o ritmo de desenvolvimento em debate. Dario Amodei defendeu a redução da velocidade no desenvolvimento dos modelos mais avançados.

Amodei recebeu apoio público de dois de seus concorrentes diretos. Elon Musk e Altman concordaram com a declaração. O CEO da OpenAI ainda revelou que as principais empresas do setor estudam criar um acordo conjunto para desacelerar o avanço das ferramentas e focar na mitigação de falhas.

Apesar das discussões sobre desaceleração no setor, o caminho das concorrentes é diferente. A Anthropic mantém seus planos de abrir capital no mercado financeiro ainda no final de 2026 (e pode ter investimento bilionário da Nvidia).

“Esse episódio me lembra muito o que aconteceu em 30 de setembro de 2023, quando tivemos mais de mil signatários naquela carta que pedia seis meses de paralisação no desenvolvimento da IA, porque ela estava ficando muito perigosa”, disse Arthur Igreja. “Cá estamos, mais de três anos depois, e isso não aconteceu. Acho bastante difícil as empresas do setor – ou uma parte importante delas – se unirem.” 

Assista abaixo a entrevista completa com Arthur Igreja:

As mensagens escondidas

Os alertas recentes devem ser levados a sério. Mas outro questionamento merece atenção: quando uma empresa afirma que sua tecnologia é extraordinariamente poderosa, transformadora e potencialmente perigosa, o que essa mensagem comunica a investidores e formuladores de políticas públicas? É o que questiona John Park, especialista em inteligência artificial e Founding Member of Technical Staff da AGI Inc.

Segundo Park, existe “uma conexão natural entre a maneira como as empresas de IA de fronteira descrevem suas tecnologias e o valor econômico que o mercado pode atribuir a elas”.

Quando uma empresa enfatiza que seus modelos não são apenas poderosos, mas poderosos o suficiente para transformar a sociedade e, ao mesmo tempo, gerar riscos sem precedentes, existem três mensagens sendo comunicadas nesta narrativa, segundo o especialista em IA.

“A primeira mensagem é que a tecnologia é extraordinariamente capaz. A segunda é que seu impacto potencial pode ser extraordinariamente grande. E a terceira, que pode surgir naturalmente na cabeça dos investidores, é que a empresa responsável por desenvolver essa tecnologia pode capturar um valor econômico extraordinário”, afirmou Park.

Para o especialista, essas ideias se reforçam mutuamente. Mas não significa que os riscos sejam inventados ou exagerados. Por isso, ele defende a necessidade de separar três questões (que podem estar relacionadas, mas não são a mesma coisa): quão poderosa é uma tecnologia, quão perigosa ela pode ser e quanto valor econômico a empresa que a desenvolve conseguirá capturar.

“Sou favorável a requisitos de segurança para sistemas de IA de alto risco. Se determinados modelos podem causar danos em escala significativa, é razoável exigir avaliações de segurança, transparência e mecanismos de controle”, disse Park.

No entanto, o especialista frisou: “O problema começa quando as regras passam a refletir as estruturas, os recursos financeiros e a infraestrutura das maiores empresas do setor.”

Por isso, para Park, a regulação deve ser proporcional ao risco. Não ao tamanho ou poder de mercado da empresa. “Precisamos prestar atenção na relação entre regulamentação e estrutura de mercado.”

“Se os padrões globais de segurança forem definidos principalmente pelas maiores empresas americanas de IA, empresas brasileiras poderão ter de arcar com custos regulatórios e técnicos desenhados para organizações que possuem recursos muito maiores”, ponderou o especialista.

Para o especialista, existem duas perguntas no cerne do debate sobre o tema: 1) A IA é perigosa demais para ser desenvolvida?; e 2) Ela é perigosa demais para que outros possam competir?

“O resultado poderia ser paradoxal: uma regulamentação criada para tornar a IA mais segura acabar dificultando o surgimento de novos competidores e aumentando a dependência de empresas estrangeiras”, escreveu Park, em artigo publicado no Olhar Digital.

O post A IA vai exterminar a humanidade? O que está por trás dos alertas apareceu primeiro em Olhar Digital.