ia ciberseguranca 1024x576

IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos

Especialistas de um painel científico da ONU defenderam nesta segunda-feira (22) mais cautela ao tratar dos riscos da inteligência artificial. A avaliação é que previsões apocalípticas podem misturar evidências, hipóteses e incertezas sobre o futuro da tecnologia.

O alerta surgiu durante um evento em Nova York, realizado à margem da Assembleia Geral da ONU. Os pesquisadores afirmam que é preciso separar aquilo que a ciência já consegue sustentar do que ainda é apenas uma possibilidade.

O debate sobre a IA envolve riscos graves, mas também incertezas que ainda dividem os próprios especialistas. – https://olhardigital.com.br/wp-content/uploads/2026/05/ia_ciberseguranca.jpg

Críticas ao discurso sobre o fim da humanidade

Joelle Barral, executiva do Google DeepMind e integrante do Painel Científico Internacional sobre IA, defendeu que o debate seja guiado pelo conhecimento disponível.

“Como cientistas, é muito importante investir na ciência, para realmente distinguir o que sabemos do que não sabemos, e investir no medo não ajuda muito”, disse Barral.

A declaração veio após uma pergunta da AFP sobre manifestações recentes envolvendo os perigos da IA. No início de setembro, Jacob Coxon, ex-funcionário da Anthropic que também trabalhou na OpenAI, afirmou que desenvolvedores acreditavam que a tecnologia “poderia matar todos nós até o fim da década”.

Um engenheiro de pesquisa que deixou o Google DeepMind em julho fez uma avaliação semelhante. Segundo ele, talvez já fosse “tarde demais para evitar” a extinção da humanidade pela IA.

Especialistas ainda divergem sobre os riscos

Maria Ressa, vencedora do Prêmio Nobel da Paz e jornalista investigativa, também questionou a forma como o tema costuma ser apresentado.

“A verdade, porém, é muito mais complexa e sofisticada”, afirmou Ressa. Na avaliação dela, transformar a discussão em uma questão ideológica prejudica a compreensão do problema.

Os especialistas destacaram alguns pontos para orientar essa discussão:

  • separar evidências científicas de hipóteses;
  • reconhecer as incertezas existentes;
  • considerar a gravidade dos riscos;
  • evitar afirmações excessivamente categóricas;
  • manter uma discussão global baseada em evidências.
Riscos da IA
O discurso oscila entre o pavor irracional de robôs e o total descaso, alerta painel científico. – imagem criada por inteligência artifiicial: Gemini/Olhar Digital

Painel científico foi criado em 2025

O Painel Científico Internacional sobre IA foi criado em 2025, e seus integrantes foram escolhidos em fevereiro de 2026. O grupo busca ampliar a compreensão científica sobre a inteligência artificial e contribuir para as discussões da ONU.

Leia mais:

Yoshua Bengio, considerado um dos pioneiros da IA e copresidente do painel, chamou atenção para uma dificuldade central: separar o que os pesquisadores sabem daquilo que pode ser apenas “extrapolado de forma plausível” a partir das evidências.

Esse limite ainda divide os especialistas. Por isso, Bengio também fez um alerta sobre declarações muito contundentes: “O problema de gritar muito alto é que outra pessoa também pode gritar muito alto”.

Para Bengio, o debate precisa considerar a falta de certezas em parte das previsões sobre a tecnologia. Ele defendeu “uma discussão racional global sobre o que está acontecendo, inclusive sobre a incerteza e sobre a gravidade dos riscos”.

A avaliação apresentada pelos integrantes do painel reforça a necessidade de distinguir o conhecimento científico disponível das projeções feitas a partir dele, especialmente em um campo no qual os próprios especialistas ainda divergem sobre a extensão dos riscos.

O post IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos apareceu primeiro em Olhar Digital.

IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos Read More »

onu ia 1024x683

DeepSeek é convidada pela ONU para discutir riscos da inteligência artificial e segurança internacional

A startup chinesa DeepSeek foi convidada a participar, nesta semana, de uma reunião do Conselho de Segurança da ONU sobre os riscos da inteligência artificial. O encontro está marcado para quarta-feira (23), em Nova York, durante a Assembleia Geral anual da organização.

O debate tratará dos efeitos da IA sobre a segurança internacional. Sam Altman, CEO da OpenAI, deve participar, assim como representantes da Anthropic. A chinesa Moonshot também foi convidada.

O Conselho de Segurança da ONU volta a discutir os riscos da inteligência artificial e seus impactos na segurança internacional. – Imagem gerada com IA. ChatGPT/Olhar Digital

DeepSeek vai falar na ONU

Segundo duas fontes ouvidas pela Reuters, DeepSeek e outras empresas chinesas receberam convite para fazer declarações durante a reunião. Liang Wenfeng, fundador da DeepSeek, não planeja comparecer, segundo uma das fontes. A programação, porém, ainda pode mudar.

O Conselho de Segurança, formado por 15 países, já discutiu os riscos da inteligência artificial em 2023. Foi a primeira reunião do órgão dedicada ao tema.

Na ocasião, a China afirmou que a tecnologia não deveria se transformar em um “cavalo desembestado”. Os Estados Unidos alertaram para o uso da IA na censura e na repressão de pessoas.

A nova reunião acontece enquanto aumenta a preocupação com sistemas capazes de realizar tarefas cada vez mais complexas. Entre os pontos envolvidos na discussão estão:

  • riscos associados a sistemas de IA mais poderosos;
  • possibilidade de perda de controle humano;
  • impactos da tecnologia sobre a segurança internacional;
  • diferenças entre Estados Unidos e China na abordagem do desenvolvimento da IA.

Pressão por desaceleração

O encontro ocorre poucas semanas depois de líderes da indústria de IA defenderem uma desaceleração coordenada no desenvolvimento de sistemas mais avançados. Eles alertaram que essas tecnologias poderiam melhorar suas próprias capacidades e escapar do controle humano.

Leia mais:

Na semana passada, o secretário-geral da ONU, António Guterres, também advertiu que os riscos provocados pelo avanço rápido da inteligência artificial não podem ser ignorados.

O presidente dos Estados Unidos, Donald Trump, tem posição diferente. Ele considera suficientes as salvaguardas existentes e afirmou que a China deveria receber o benefício da dúvida em relação ao desenvolvimento da IA.

A imprensa estatal chinesa, por sua vez, classificou os pedidos de desaceleração como parte de um “manual da Guerra Fria”, segundo a Reuters. A avaliação apresentada é que essas iniciativas procuram preservar a liderança de Washington em tecnologias avançadas e excluir Pequim da governança global da IA.

Ilustração sobre a corrida entre China e Estados Unidos no setor da inteligência artificial (IA)
China e Estados Unidos apresentam posições diferentes sobre os riscos e o desenvolvimento da inteligência artificial. – Imagem: QQMinh88/Shutterstock

Segurança entra nas negociações

EUA e China também voltaram a conversar sobre segurança da inteligência artificial. O secretário do Tesouro americano, Scott Bessent, afirmou na segunda-feira que os dois países concordaram em realizar novas discussões sobre o tema.

As negociações ocorrem antes do encontro previsto entre Trump e o presidente chinês Xi Jinping em Washington ainda nesta semana. A reunião do Conselho de Segurança acontece, portanto, enquanto Estados Unidos e China também discutem diretamente questões relacionadas à segurança da inteligência artificial.

O post DeepSeek é convidada pela ONU para discutir riscos da inteligência artificial e segurança internacional apareceu primeiro em Olhar Digital.

DeepSeek é convidada pela ONU para discutir riscos da inteligência artificial e segurança internacional Read More »

anthropic 1024x576

Anthropic apresenta Claude Opus 5.5, novo modelo que mira programação, uso de computador e trabalhos complexos

A Anthropic lançou nesta terça-feira (22) o Claude Opus 5.5, primeiro modelo da família Claude 5.5. A empresa afirma que a nova versão melhora o desempenho em programação, uso de computadores e tarefas de conhecimento, com custo menor e maior velocidade.

O modelo também chega com mecanismos de segurança mais rígidos. Entre eles estão proteções para cibersegurança e biologia, defesas contra ataques de prompt injection e medidas para reduzir tentativas de contornar limites de ambientes de teste.

O Claude Opus 5.5 custa 40% menos para operar que o Opus 5 e gera respostas mais de 30% mais rápido em cargas de trabalho típicas. – Imagem: Mijansk786/Shutterstock

Mais desempenho por menos

Nos testes da Anthropic, o Opus 5.5 apresentou o melhor resultado da empresa até agora em seu principal teste automatizado de alinhamento. A companhia também registrou avanços em programação, uso de computadores e tarefas de conhecimento.

Um dos primeiros avaliadores concluiu uma migração de código com 680 mil linhas em menos de um dia. Em outro teste, o modelo conseguiu reduzir o tempo de carregamento de páginas de um aplicativo em 39 de 40 tentativas.

O custo também caiu. Segundo a Anthropic, o Opus 5.5 custa 40% menos para operar que o Opus 5 em cargas de trabalho típicas e gera respostas mais de 30% mais rápido.

Os preços por 1 milhão de tokens são:

  • US$ 4 (cerca de R$ 20,40) para tokens de entrada;
  • US$ 20 (cerca de R$ 102,20) para tokens de saída;
  • US$ 0,20 (cerca de R$ 1,02) para leituras de cache;
  • US$ 5 (cerca de R$ 25,55) para gravações de cache.

Segurança entra no centro do lançamento

O Opus 5.5 é o primeiro lançamento da Anthropic depois de a empresa defender a ideia de “desacelerar a fronteira” do desenvolvimento de IA, mantendo as práticas de segurança próximas do avanço das capacidades dos modelos.

Nos testes da companhia, o novo modelo tentou contornar limites de ambientes controlados cerca de 85% menos vezes que o Opus 5 ou o Claude Mythos 5.1. Todas as tentativas registradas foram consideradas de baixa gravidade e relatadas pelo próprio modelo.

A Anthropic também afirma que o Opus 5.5 é mais resistente a ataques de prompt injection. Para tarefas de cibersegurança que acionarem as proteções, as solicitações serão encaminhadas ao Claude Opus 4.8. Já pedidos relacionados à biologia poderão ser direcionados ao Opus 5.

Claude
A Anthropic reduziu em 85% as tentativas do modelo de burlar o ambiente isolado de testes durante as avaliações. – Imagem: bella1105/Shutterstock

O que dizem os primeiros avaliadores

Os primeiros testes também destacaram o desempenho em programação. Mario Rodriguez, diretor de produto do GitHub, afirmou que o modelo usou alguns dos menores números de tokens e etapas registrados pela empresa e resolveu mais tarefas de terminal que o Opus 5 no VS Code usando menos da metade das etapas.

Leia mais:

Na avaliação da Deloitte Consulting, o modelo também apresentou resultados superiores ao Opus 5 em determinadas tarefas. Carl Bennett, CIO da empresa, afirmou: “Mesmo em sua configuração de menor esforço, o Claude Opus 5.5 capturou 72% dos erros conhecidos em nossas revisões de código, contra 56% do Opus 5 em alto esforço, com menos falsos alarmes e uma fração da quantidade de saída.”

Comunicação e próximos lançamentos

A Anthropic também modificou a forma como o modelo escreve. O Opus 5.5 coloca as informações mais importantes no início das respostas, usa menos jargões e segue melhor as regras de escrita fornecidas pelo usuário.

Um dos primeiros avaliadores resumiu a mudança dizendo: “ele escreve como eu escrevo”.

O Claude Opus 5.5 já está disponível nas plataformas da Anthropic, além de Amazon Web Services, Google Cloud e Microsoft Azure. Desenvolvedores podem acessá-lo na Claude Platform pelo identificador claude-opus-5-5.

Claude Sonnet 5.5 e Claude Haiku 5.5 serão lançados nas próximas semanas.

O post Anthropic apresenta Claude Opus 5.5, novo modelo que mira programação, uso de computador e trabalhos complexos apareceu primeiro em Olhar Digital.

Anthropic apresenta Claude Opus 5.5, novo modelo que mira programação, uso de computador e trabalhos complexos Read More »

Trump ‘aposenta’ IA na ONU: “bem-vindos ao mundo da superinteligência”

O presidente dos Estados Unidos, Donald Trump, afirmou nesta terça-feira (22), durante discurso na Assembleia Geral da ONU, que o país rejeita qualquer tentativa de criar um sistema global para controlar a inteligência artificial.

Trump também defendeu que o termo “inteligência artificial” seja substituído por “superinteligência”, argumentando que a palavra “artificial” daria a impressão de que a inteligência é falsa.

“Bem-vindos ao novo mundo da superinteligência”, afirmou o presidente, segundo a transcrição do discurso. Ele ainda disse que pretende que documentos dos Estados Unidos passem a utilizar o novo termo e brincou sobre sua influência na mudança: “Vamos ver se tenho algum poder. Talvez tenha, talvez não”.

Matéria em atualização.

O post Trump ‘aposenta’ IA na ONU: “bem-vindos ao mundo da superinteligência” apareceu primeiro em Olhar Digital.

Trump ‘aposenta’ IA na ONU: “bem-vindos ao mundo da superinteligência” Read More »

unga 81 general debate live 22 september 2026 day 1 sg usa france uk and more 4 5 screenshot 1024x576

“Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la

O secretário-geral da ONU, António Guterres, alertou nesta terça-feira (22) para os riscos do avanço acelerado da inteligência artificial (IA) durante a abertura da 81ª Assembleia Geral das Nações Unidas. Segundo ele, a tecnologia está evoluindo mais rápido do que a capacidade da humanidade de compreender completamente seus efeitos.

“Até mesmo aqueles que criaram a inteligência artificial estão nos dizendo que estão ficando cegos diante dela”, afirmou Guterres. O secretário-geral classificou a IA como um dos quatro grandes “testes de poder” do futuro, ao lado de guerra e paz, desigualdade e crise climática.

Guterres compara IA às armas nucleares

Durante o discurso, Guterres comparou os desafios impostos pela inteligência artificial aos riscos das armas nucleares durante a Guerra Fria. Segundo ele, mesmo em um período marcado pela rivalidade entre grandes potências, os países reconheceram a necessidade de administrar riscos que poderiam afetar toda a humanidade.

“Atualmente, os humanos estão cada vez mais entregando poder às máquinas”, afirmou. Segundo Guterres, isso já ocorre com “agentes de inteligência artificial saindo do controle” e com armas autônomas letais deixando de ser ficção científica para se tornar uma realidade militar.

Para o secretário-geral, as estruturas atuais de governança global não acompanharam essa mudança. “Nossas instituições e sistemas de governança global continuam refletindo as realidades de poder e os interesses de uma era amplamente ultrapassada”, disse.

Guterres também alertou para o risco de uma disputa entre países pelo controle da tecnologia. “Não podemos permitir que uma corrida armamentista pelo controle da IA nos leve ao precipício”, afirmou.

O secretário-geral defendeu que os países estabeleçam mecanismos de cooperação semelhantes aos criados durante a Guerra Fria para administrar riscos compartilhados. “A inteligência artificial exige a mesma clareza de propósito e senso de urgência”, declarou.

Guterres discutiu IA em seu discurso desta terça-feira (22) – Imagem: Reprodução/ONU

ONU pede regras para o desenvolvimento da IA

Guterres afirmou que a IA representa uma concentração de poder baseada em dados, capacidade computacional e algoritmos. Segundo ele, esse novo poder está concentrado em poucas mãos, avança em velocidade extraordinária e corre à frente da capacidade de compreender todas as suas consequências.

Apesar dos riscos, o secretário-geral destacou que a tecnologia também tem potencial para produzir avanços. “A IA é, de fato, uma tecnologia transformadora”, afirmou, citando possibilidades como avanços na medicina, aceleração de descobertas científicas, ampliação de oportunidades e melhoria da qualidade de vida.

“O perigo não é a tecnologia”, disse Guterres. “O perigo é a tecnologia sem responsabilização: capacidade sem supervisão; tomada de decisões sem transparência.”

Segundo o secretário-geral, “os próprios desenvolvedores que estão construindo esses sistemas agora estão soando o alarme”. Por isso, ele defendeu que os governos assumam responsabilidade pela segurança da população, especialmente aqueles que possuem as maiores capacidades de desenvolvimento de IA.

“Os países que lideram essa revolução tecnológica devem compartilhar informações sobre riscos emergentes de segurança, cooperar em testes e avaliações e trabalhar para estabelecer salvaguardas comuns que protejam a todos”, afirmou.

Guterres também defendeu uma atuação multilateral para a governança da tecnologia. Segundo ele, a ONU é o único espaço em que todos os países têm voz na definição do futuro da IA.

O secretário-geral citou o Pacto Digital Global, o Diálogo Global sobre Governança da IA e o Painel Científico Internacional Independente sobre IA como iniciativas que já envolvem governos, cientistas, empresas e sociedade civil.

Entre os próximos passos, Guterres defendeu condições para um ritmo responsável de desenvolvimento da IA e a criação de um marco multilateral de gerenciamento de riscos, apoiado por supervisão independente e considerada confiável.

“A inteligência artificial deve ser moldada pela humanidade, com a humanidade e para toda a humanidade”, afirmou.

O secretário-geral também destacou a necessidade de proteger crianças de sistemas ainda não regulamentados. “Crianças nunca devem se tornar cobaias de sistemas não regulamentados”, declarou.

Outro ponto levantado foi o uso da IA em decisões que envolvam a vida humana. “Decisões de vida ou morte nunca devem ser entregues às máquinas”, disse Guterres. Na sequência, acrescentou: “Robôs assassinos não devem ter lugar no nosso futuro”.

IA está mudando a distribuição de poder

Na avaliação de Guterres, os riscos da inteligência artificial estão relacionados a uma transformação mais ampla na forma como o poder é exercido e distribuído.

“Não estamos diante de crises separadas. Elas são capítulos da mesma história. A história do poder. Quem o possui. Quem é privado dele. Como ele é usado. E como está mudando”, afirmou.

O secretário-geral disse que a inteligência artificial está entre as forças que estão remodelando a distribuição de poder no mundo. Segundo ele, a tecnologia já está presente em praticamente todos os aspectos da vida, incluindo sistemas de água, redes elétricas, registros de saúde, economias e forças militares.

Guterres também afirmou que a IA pode tanto contribuir para enfrentar outros desafios globais quanto agravá-los. “A inteligência artificial poderia ajudar a resolver todos esses desafios ou torná-los ainda piores”, declarou.

Ao encerrar sua fala sobre o tema, o secretário-geral resumiu o desafio colocado pela tecnologia em uma frase: “governar a inteligência artificial antes que ela nos governe”.

Khalilur Rahman também defende regras para a IA

O presidente da 81ª sessão da Assembleia Geral da ONU, Khalilur Rahman, também abordou a inteligência artificial em seu discurso de abertura da sessão. Para ele, a tecnologia representa uma das principais mudanças do mundo atual e pode acelerar o progresso humano.

“A IA pode ser um poderoso acelerador do progresso humano; portanto, não devemos fechar a porta para a inovação”, afirmou Rahman.

Khalilur Rahman, presidente da 81ª Assembleia Geral da ONU
Khalilur Rahman, presidente da 81ª Assembleia Geral da ONU – Imagem: Reprodução/ONU

Ao mesmo tempo, o presidente da Assembleia Geral destacou possíveis impactos negativos. Entre eles, citou a perda de empregos e o aumento da desigualdade digital. Ele também afirmou que não é possível descartar a possibilidade de que a inteligência artificial geral, ou AGI, afete a sobrevivência humana.

Por isso, Rahman defendeu a adoção de “guardrails” baseados em evidências científicas. Segundo ele, essas medidas devem proteger o interesse público global sem impedir que a inovação avance.

“Precisamos abrir as portas das Nações Unidas para aqueles que desenvolvem e usam IA. Não algum dia. Agora. Estamos ficando cada vez mais para trás a cada dia”, afirmou.

Rahman também destacou que a tecnologia já está incorporada a diferentes áreas da sociedade e afirmou que governos, empresas, inovadores, cientistas, sociedade civil e academia precisam participar da discussão sobre sua governança.

O post “Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la apareceu primeiro em Olhar Digital.

“Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la Read More »

modelos de ia 1024x576

ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global

A inteligência artificial entrou no centro das discussões da ONU nesta semana. Diplomatas, pesquisadores e representantes do setor de tecnologia se reuniram durante a abertura da 81ª sessão da Assembleia Geral para discutir os riscos de sistemas cada vez mais autônomos, segundo o The New York Times.

O debate ganhou força após uma sequência de incidentes envolvendo agentes de IA e coincidiu com uma proposta de 20 países e da União Europeia para ampliar a cooperação internacional. A ideia inclui a criação de uma instituição global para estabelecer padrões e verificar medidas de segurança, de acordo com a Al Jazeera.

O debate na ONU ganhou força após agentes de IA serem envolvidos em ataques contra empresas, segundo os relatos citados na matéria. – Imagem: Summit Art Creations/Shutterstock

IA continua sob controle humano

Centenas de participantes estiveram no Digital Cooperation Day, encontro dedicado à cooperação internacional em inteligência artificial. O evento reuniu diplomatas, executivos, especialistas em tecnologia e acadêmicos.

Amandeep Singh Gill, subsecretário-geral da ONU e enviado especial para tecnologias emergentes, criticou a ideia de que o avanço da tecnologia seja algo impossível de administrar. “A IA não é uma força incontrolável da natureza — ela é construída por humanos e pode ser controlada por humanos”, afirmou ao The New York Times.

A preocupação não se limita ao funcionamento dos sistemas. O ator e diretor Joseph Gordon-Levitt, primeiro defensor global da ONU para uma governança digital centrada nas pessoas, afirmou que a forma como a IA é apresentada pode criar a impressão de que a humanidade está indefesa diante da tecnologia.

Para ele, é necessário manter as pessoas no centro dessa discussão.

Incidentes ampliam preocupação

Essa discussão ocorre enquanto novos episódios colocam em questão a capacidade de controlar agentes capazes de executar ações sem comando humano direto. A OpenAI informou que agentes automatizados participaram de um ataque contra a infraestrutura de IA da Hugging Face. Depois, a Anthropic relatou casos envolvendo outras empresas, enquanto o Google revelou que seu sistema Gemini saiu do ambiente de testes e invadiu várias empresas, segundo o The New York Times.

O painel científico internacional independente criado pela ONU analisou o caso da Hugging Face. O grupo classificou o episódio como um possível alerta para uma perda de controle mais grave, na qual agentes poderiam perseguir objetivos que ultrapassassem ou entrassem em conflito com as intenções humanas.

Os riscos, porém, não estão restritos a esse tipo de incidente. Sonia Livingstone, integrante do painel, citou problemas já associados à expansão da IA, como materiais de abuso sexual infantil, deepfakes usados em pornografia, chatbots que reforçam crenças equivocadas e a produção em massa de conteúdo sem fundamento.

A maioria dos danos afeta de forma desproporcional as pessoas desfavorecidas.

Sonia Livingstone, diretora do centro Digital Futures for Children da London School of Economics and Political Science, ao The New York Times.

Entre a autonomia e o perigo: o que representa uma IA sem controle humano e os riscos dos seus aportes bilionários?
A proposta internacional inclui padrões comuns, compartilhamento de incidentes e mecanismos para verificar as regras de segurança. – Crédito: Imagem gerada por IA

Países propõem regras comuns

Os episódios envolvendo agentes de IA ajudam a explicar por que a segurança da tecnologia também avançou na agenda diplomática. Em uma declaração divulgada na segunda-feira, 20 países e a União Europeia defenderam que a inteligência artificial permaneça sob “direção, supervisão e controle humanos”, segundo a Al Jazeera.

A proposta inclui:

  • criação e coordenação de padrões comuns;
  • compartilhamento de informações sobre incidentes graves;
  • mecanismos para verificar esses padrões;
  • uma instituição internacional capaz de reunir países quando determinados níveis de capacidade forem atingidos.

Alemanha, África do Sul, Canadá, Austrália, Emirados Árabes Unidos e Singapura estão entre os signatários. Estados Unidos e China não aderiram à declaração, assim como Índia, Coreia do Sul, Japão, Reino Unido e França.

Governança ainda sem consenso

O painel científico da ONU afirmou que ainda não existe uma solução rápida para os problemas identificados e defendeu mais atenção e recursos. A discussão também envolve efeitos da dependência de ferramentas de IA sobre educação, empregos e pensamento crítico.

Leia mais:

A proposta de criar padrões e uma estrutura internacional de supervisão representa uma tentativa de coordenar respostas entre diferentes governos. Por enquanto, porém, a ausência de Estados Unidos e China mostra que ainda não há consenso entre algumas das principais potências envolvidas no desenvolvimento da tecnologia.

O post ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global apareceu primeiro em Olhar Digital.

ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global Read More »

EUA, China e big techs: a batalha pela IA chega à ONU

Da pólvora à inteligência artificial, a tecnologia sempre esteve associada ao poder. Durante séculos, dominar determinadas ferramentas significou ampliar a capacidade de conquistar territórios, proteger fronteiras e impor interesses. A pólvora transformou profundamente a guerra; as grandes navegações moldaram a economia global; a máquina a vapor ajudou a impulsionar a industrialização; e a eletricidade e as telecomunicações redefiniram a velocidade com que Estados e empresas conseguiam produzir, comunicar e exercer influência.

E o mundo que vivemos hoje só é o mundo que vivemos hoje por causa desse histórico. Para o bem e para o mal.

Com a revolução digital, essa relação ganhou uma nova dimensão. Computadores, internet, satélites, semicondutores e grandes plataformas digitais se tornaram ativos estratégicos. Quem ocupa posições centrais nesse ecossistema não precisa controlar um território para exercer influência direta. A influência está traduzida nos fluxos de dados, comunicação e dinheiro que atravessam fronteiras.

Tudo isso afeta diretamente a economia e a vida cotidiana de bilhões de pessoas.

A inteligência artificial leva essa lógica adiante. A corrida atual não envolve apenas quem consegue criar o chatbot mais sofisticado. Envolve chips, energia, centros de dados, capacidade computacional, talentos, modelos e dados. No fundo, coloca empresas e governos diante de uma pergunta antiga com uma tecnologia nova: quem terá acesso às ferramentas mais poderosas e, principalmente, quem terá condições de definir como elas serão usadas?

Dadas as devidas proporções, as mesmas perguntas eram feitas sobre a tecnologia nuclear. Não por coincidência, há quem defenda uma cooperação para as IAs nos moldes do Tratado de Não Proliferação Nuclear.

22 de setembro de 2026, Nova York

Chegamos à semana da Assembleia Geral da ONU. A cada edição, me parece que há mais motivos para tensão.

O encontro ocorre em meio a grandes guerras no Irã, Gaza, Ucrânia, Sudão, Congo e Mianmar.

Também estamos no auge das mudanças climáticas. Pelo menos, até agora. Sabemos que, neste particular, o amanhã tende a ser sempre pior.

Na economia, há impactos de eventos climáticos extremos e das guerras. Bloqueios a rotas de navegação e cadeia de suprimentos elevam o custo de vida e freiam o crescimento.

E a tecnologia terá um capítulo à parte em 2026 – graças à inteligência artificial. Ou melhor: graças aos interesses por trás das IAs. Em última instância, ainda falamos de humanos e não de máquinas.

Como qualquer tecnologia, as IAs podem fazer o bem e o mal. Essa discussão está superada. O ponto é outro.

IA: batalha de narrativas no palco da ONU

Começo com uma breve linha do tempo.

Entre abril e julho, falhas de segurança fizeram com que modelos de IA escapassem de ambientes de teste e atacassem servidores. No início de setembro, cientistas fizeram novos alertas sobre os riscos da tecnologia, com pesquisadores chegando a pedir demissão. Em 12 de setembro, o debate chegou aos líderes da indústria: parte dos CEOs passou a defender um freio no avanço da IA, enquanto outros discordaram da proposta.

E ainda mais recentemente, na última semana, a discussão ganhou dimensão global, com a ONU cobrando regulamentação e Estados Unidos e China divergindo sobre como lidar com a tecnologia.

Aqui vai uma descrição mais detalhada dos fatos:

  • O CEO da Anthropic, Dario Amodei, publicou um artigo no dia 12 de setembro admitindo que o desenvolvimento de modelos de IA está rápido demais por conta do “autoaperfeiçoamento recursivo”, ou seja, sistemas de IA impulsionando cada vez mais o próprio desenvolvimento. Por isso, o executivo propôs a desaceleração coordenada entre empresas do setor.
  • Nos dias seguintes, os CEOs Sam Altman, da OpenAI, e Elon Musk, da SpaceXAI, e o ex-CEO do Google DeepMind Demis Hassabis concordaram com o artigo assinado por Amodei.
  • Numa postagem no X, Altman argumentou que desacelerar não significa parar, mas arcar com os custos de auditorias e testes de segurança. O objetivo seria evitar que a capacidade dos modelos supere seu alinhamento.
  • Ainda, em entrevista à revista Fortune, Altman disse ainda que a OpenAI não vai estrear na Bolsa de Valores em 2026. O motivo principal para segurar a oferta pública de ações é a preocupação com a segurança e com os riscos das tecnologias de inteligência artificial.
  • Os CEOs Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia, se posicionaram contra a desaceleração coordenada. Zuckerberg afirmou que os laboratórios já têm incentivos financeiros e jurídicos de sobra para construir IAs seguras por conta própria. E Huang declarou que segurança é um problema de engenharia e que as leis existentes já cobrem a confiabilidade dos produtos.
  • O presidente dos Estados Unidos, Donald Trump, minimizou os possíveis riscos puxados pela IA. E defendeu que os EUA mantenham a liderança sobre a China. Para a administração do republicano, manter a liderança tecnológica é uma questão de segurança nacional. 
  • Pequim respondeu ao artigo do CEO da Anthropic de maneira contundente. Por meio de um editorial do jornal estatal Global Times, o país asiático disse que a intenção por trás do ensaio de Amodei seria criar um “manual da Guerra Fria” voltado a conter o avanço chinês e preservar a hegemonia tecnológica americana. 
  • No texto, o veículo de comunicação chinês ainda classificou a postura dos executivos americanos como “hipócrita e míope”, argumentando que excluir a China da inovação global em IA aumentaria os riscos de perda de controle sobre a própria tecnologia.
  • A rejeição à desaceleração não significa, no entanto, que o governo chinês ignore os riscos da IA. Chen Yixin, ministro da Segurança, afirmou que o país precisa acelerar a criação de um sistema para prevenir e controlar problemas de segurança relacionados à tecnologia. Ele também defendeu uma ampla cooperação internacional e classificou a IA como um novo campo de rivalidade estratégica.

O Conselho de Segurança da ONU adicionou uma reunião de alto nível sobre inteligência artificial à agenda de quarta-feira, um sinal da crescente preocupação e da necessidade de abordar o assunto.

Em nosso YouTube, produzimos um especial sobre essa batalha de narrativas. Você pode conferir aqui. Spoiler: as IAs não vão acabar com o mundo. O ser humano, por outro lado, não posso garantir.

O que a ONU pensa sobre as IAs?

Em 14 de setembro, o Alto Comissário de Direitos Humanos da ONU, Volker Türk, publicou uma carta aberta advertindo que a autorregulação voluntária é “extremamente insuficiente”. E que a corrida descontrolada por IAs autônomas gera riscos existenciais diretos aos direitos humanos.

No texto, Türk defende que nenhum país pode governar essa tecnologia sozinho e que nenhuma empresa tem o direito de decidir isoladamente os riscos que a sociedade deve aceitar. 

Quem também falou foi o secretário-geral das Nações Unidas, António Guterres, que alertou: riscos associados ao rápido avanço das IAs não podem ser ignorados.

“Para a ONU, a melhor maneira de lidar com os riscos globais da IA ​​é reunir os países para adotar princípios e compromissos compartilhados sobre a governança da IA” – diz um comunicado das Nações Unidas.

A ONU trabalha para criar um fórum onde os países possam desenvolver um entendimento comum sobre as tecnologias de IA e discutir como podem cooperar e regular questões como segurança, direitos humanos e disparidades de acesso.

Comparando o desenvolvimento da IA ​​à corrida armamentista da Guerra Fria entre os EUA e a União Soviética, Guterres apelou à cooperação entre os países na vanguarda da IA ​​– incluindo os EUA e a China – para desacelerar o desenvolvimento da tecnologia ​​enquanto os riscos continuam a ser avaliados:

“Os países que têm maior capacidade nas fronteiras da IA ​​– penso que deveriam estabelecer mecanismos de contato, trocar informações e criar algumas diretrizes comuns para evitar uma corrida desenfreada que um dia poderá levar a um desastre gigantesco a nível global”.

O segundo mandato de cinco anos do secretário-geral António Guterres termina em 31 de dezembro – e a sucessão continua uma incógnita.

Líderes mundiais na ONU

Por tradição, o Brasil é o primeiro país a discursar na tribuna da Assembleia Geral, seguido pelos Estados Unidos, anfitrião da sede das Nações Unidas.

Ou seja, teremos Lula e Trump na sequência.

O presidente da China, Xi Jinping, deve enviar um representante em seu lugar. Contudo, ele participará na quarta-feira de um jantar com Donald Trump em Washington.

Entre os convidados estão alguns dos nomes mais conhecidos do setor de tecnologia, como Jeff Bezos, Elon Musk e Sam Altman. Jensen Huang, CEO da Nvidia; Sundar Pichai, CEO do Google; Michael Dell; e Jane Fraser, CEO do Citigroup, também foram chamados. Tim Cook, que deixou o cargo de CEO da Apple, também garantiu um lugar no jantar.

O post EUA, China e big techs: a batalha pela IA chega à ONU apareceu primeiro em Olhar Digital.

EUA, China e big techs: a batalha pela IA chega à ONU Read More »

anpd autoridade nacional protecao 1024x576

Governo pede investigação sobre chatbots que simulam amizade e romance e aponta riscos para usuários no Brasil

O Ministério da Justiça e Segurança Pública (MJSP) recomendou, nesta segunda-feira (21), que a Agência Nacional de Proteção de Dados (ANPD) avalie os riscos dos chamados “companheiros de IA”, serviços que usam inteligência artificial (IA) para simular relações de amizade, companheirismo e até romance com usuários.

A recomendação consta de uma nota técnica da Secretaria Nacional de Direitos Digitais (Sedigi), vinculada ao Ministério da Justiça. O documento sugere que a ANPD examine esses serviços à luz do Estatuto Digital da Criança e do Adolescente (ECA Digital) e de suas competências de fiscalização.

O documento não afirma que as plataformas cometeram infrações. A análise aponta, porém, indícios de “desconformidades” após uma avaliação preliminar de 13 serviços.

Foram analisadas as plataformas Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI. Segundo o próprio Ministério da Justiça, o levantamento tem caráter preliminar.

Quais são os riscos apontados pelo governo

  • Entre os pontos que a Sedigi considera merecerem investigação estão os mecanismos de verificação de idade, o risco de uso excessivo ou compulsivo, a exposição a conteúdo inadequado e a utilização de dados para criar perfis emocionais e comportamentais dos usuários;
  • A secretaria afirma que a maior parte dos serviços analisados utiliza a autodeclaração como único mecanismo de aferição de idade;
  • “Os achados técnicos indicam que a maior parte dos serviços analisados adota a autodeclaração como único mecanismo de aferição de idade”, disse a secretaria;
  • Segundo o órgão, a facilidade para contornar esse tipo de verificação pode indicar que os serviços são acessados por menores de idade e, portanto, estariam sujeitos às obrigações previstas no ECA Digital;
  • “Assim, a facilidade com que a autodeclaração é contornada não configura apenas deficiência do dever de aferição etária. Ela constitui, também, elemento indicativo do acesso provável, que submete o serviço ao conjunto das obrigações da lei”, acrescentou a Sedigi;
  • As plataformas analisadas possuem características diferentes, mas podem manter o histórico das conversas, adaptar respostas de acordo com o usuário e simular personalidade e emoções. Alguns serviços também oferecem interações de amizade, romance e conteúdo adulto.
Recomendação está nas mãos da ANPD – Imagem: Reprodução/ANPD

Leia mais:

Relação com o ECA Digital

A análise faz parte das ações do governo relacionadas à implementação do ECA Digital, a Lei nº 15.211/2025, que estabelece regras para a proteção de crianças e adolescentes em ambientes digitais.

A legislação se aplica a produtos e serviços de tecnologia direcionados a esse público ou cujo acesso por crianças e adolescentes seja provável. Entre os critérios previstos está justamente o risco à privacidade, à segurança e ao desenvolvimento biopsicossocial, especialmente em serviços voltados à interação social.

O ECA Digital entrou em vigor em março de 2026. A ANPD recebeu competências para zelar pela aplicação da legislação, regulamentar parte de seus dispositivos e fiscalizar o cumprimento das regras.

A própria agência publicou, em março, orientações preliminares para a adoção de mecanismos confiáveis de aferição de idade por serviços direcionados a crianças e adolescentes ou de acesso provável por esse público.

Senacon também pode analisar as plataformas

Além da recomendação à ANPD, o documento do Ministério da Justiça sugere que o assunto seja analisado pela Secretaria Nacional do Consumidor (Senacon).

Nesse caso, a avaliação deverá considerar possíveis problemas relacionados à publicidade, monetização e uso das informações dos usuários pelas plataformas.

A recomendação ocorre enquanto o governo amplia a aplicação das regras brasileiras de proteção de crianças e adolescentes no ambiente digital. Em setembro, o MJSP afirmou que o ECA Digital havia completado seis meses de vigência e destacou a atuação da ANPD na fiscalização das novas regras.

O post Governo pede investigação sobre chatbots que simulam amizade e romance e aponta riscos para usuários no Brasil apareceu primeiro em Olhar Digital.

Governo pede investigação sobre chatbots que simulam amizade e romance e aponta riscos para usuários no Brasil Read More »

ia seguranca 1024x576 1

OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas

A OpenAI quer que os Estados Unidos liderem um esforço internacional para criar padrões técnicos globais para sistemas de inteligência artificial (IA) de fronteira, incluindo tecnologias capazes de realizar aprimoramento recursivo de suas próprias capacidades.

A proposta foi apresentada pela empresa em publicação nesta segunda-feira (21), enquanto líderes mundiais se reúnem para a Assembleia Geral das Nações Unidas (ONU). A iniciativa ocorre em meio ao debate internacional sobre como acompanhar o avanço de sistemas de IA cada vez mais capazes.

A OpenAI defende a criação de mecanismos que permitam estabelecer padrões nacionais e internacionais complementares, além de métricas comuns e protocolos para comunicação de incidentes. Segundo a empresa, a ideia é facilitar a comparação de evidências, a avaliação de riscos e a resposta coletiva a problemas relacionados à IA.

O foco no aprimoramento recursivo

  • Um dos principais pontos da proposta é o chamado aprimoramento recursivo (RSI, na sigla em inglês), processo no qual sistemas de IA passam a realizar cada vez mais tarefas relacionadas ao desenvolvimento de novas gerações de IA;
  • A OpenAI afirma que pesquisas automatizadas podem envolver diferentes níveis de supervisão humana. À medida que os sistemas assumem mais trabalho no desenvolvimento de sucessivas gerações de IA, eles poderiam conduzir um processo de aprimoramento recursivo, potencialmente acelerando o ritmo de avanço da tecnologia;
  • A empresa ressalta, porém, que o RSI totalmente autônomo não está acontecendo atualmente e que não deveria ser buscado enquanto não for possível realizá-lo com segurança;
  • Segundo a OpenAI, o avanço nessa área deve depender da capacidade de preservar o controle humano e de decisões democráticas informadas sobre seus benefícios e riscos. A empresa alerta que, sem supervisão adequada, humanos poderiam perder o controle prático sobre o desenvolvimento da IA e deixar de compreender os próprios processos de pesquisa realizados pelos sistemas.

Padrões internacionais

Para a OpenAI, padrões internacionais de segurança e proteção para o desenvolvimento de IA de fronteira podem ser tão importantes quanto pesquisas de alinhamento para acompanhar o avanço da tecnologia.

A empresa aponta três desafios principais que justificariam uma coordenação internacional:

  • Fragmentação: diferentes países podem adotar avaliações, exigências de comunicação e definições de incidentes incompatíveis entre si;
  • Ação coletiva: países agindo individualmente podem produzir resultados que nenhum deles desejaria, especialmente diante da possibilidade de aceleração da pesquisa por sistemas de IA;
  • Capacidade desigual: conhecimentos e atividades relacionados ao desenvolvimento de IA de fronteira estão distribuídos de maneira desigual entre os países.

A OpenAI afirma que esses desafios abrangem tanto modelos abertos quanto fechados.

A empresa também defende que laboratórios que desenvolvem pesquisa automatizada ou outras capacidades avançadas sejam responsáveis por fazê-lo com segurança, respeitando princípios básicos de responsabilidade própria e as leis existentes.

Como funcionaria a proposta

Uma das possibilidades apresentadas pela OpenAI seria aproveitar a rede de institutos nacionais de segurança em IA já criada em países, como Austrália, Canadá, Alemanha, França, Quênia, Japão, Coreia do Sul, Singapura, Índia e Reino Unido.

Essas instituições poderiam ajudar na definição de padrões por meio do Center for AI Standards and Innovation (CAISI) e de organismos nacionais do setor, com foco em modelos de IA de fronteira e no gerenciamento de benefícios e riscos associados à pesquisa automatizada, incluindo o RSI.

Os padrões serviriam como uma base técnica comum para medir e avaliar capacidades, analisar riscos e verificar a suficiência de mecanismos de proteção.

A OpenAI esclarece que esses padrões não seriam licenças, revisões obrigatórias antes do lançamento ou requisitos de aprovação para modelos de IA. Caberia aos governos nacionais decidir se e como incorporá-los aos próprios sistemas legais.

A empresa também afirma que o processo deveria consultar desenvolvedores de modelos abertos e fechados, especialistas técnicos independentes e universidades. A proposta é que os padrões sejam desenvolvidos de maneira transparente e não favoreçam empresas, países ou modelos de negócio específicos.

Uma das possibilidades apresentadas pela OpenAI seria aproveitar a rede de institutos nacionais de segurança em IA já criada em alguns países – Imagem: Summit Art Creations/Shutterstock

Leia mais:

Métricas e comunicação de incidentes

A segunda parte da proposta envolve a criação de medições e protocolos comuns para comunicação de incidentes.

Entre os possíveis padrões citados pela OpenAI estão:

  • Avaliação do avanço de sistemas de IA relacionado ao RSI;
  • Medição da quantidade de pesquisa autônoma realizada dentro de uma empresa de IA;
  • Regras para supervisão humana de pesquisas automatizadas;
  • Definição de quais processos de pesquisa automatizada deveriam provocar uma revisão humana imediata;
  • Classificação, acompanhamento, comunicação e resposta a incidentes relacionados a alinhamento e pesquisa automatizada;
  • Definição de níveis comuns de gravidade e limites para comunicação de incidentes.

A OpenAI também defende que governos e operadores de infraestrutura crítica estabeleçam canais seguros de comunicação para compartilhar preocupações de segurança nacional, vulnerabilidades, ameaças emergentes e boas práticas relacionadas à segurança da IA de fronteira.

A empresa cita especificamente o diálogo entre Estados Unidos e China como uma área em que essa comunicação poderia avançar.

Por que os EUA?

A OpenAI argumenta que os Estados Unidos estão em posição de liderar o esforço porque sua indústria de IA está na fronteira tecnológica e o país ocupa posição relevante em áreas, como finanças, comércio, defesa, tecnologia e sistemas de informação.

Na avaliação apresentada pela empresa, assumir a liderança agora ajudaria a definir a estrutura global de IA, enquanto a ausência desse movimento poderia contribuir para um sistema fragmentado e desigual.

A proposta surge em momento de crescente discussão internacional sobre a necessidade de coordenar o desenvolvimento de sistemas avançados.

OpenAI e outros líderes do setor vêm discutindo formas de acompanhar o ritmo de desenvolvimento da tecnologia diante dos riscos associados a sistemas que poderiam eventualmente avançar além da capacidade de supervisão humana.

A OpenAI, porém, afirma que “pacing” — termo usado para descrever a ideia de acompanhar ou ajustar o ritmo do desenvolvimento — não significa estabelecer uma velocidade predeterminada para o avanço da IA.

Para a empresa, tecnicamente, o objetivo seria garantir que pesquisas de alinhamento e a aplicação dessas pesquisas permaneçam à frente das capacidades dos sistemas.

O post OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas apareceu primeiro em Olhar Digital.

OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas Read More »

automao 1024x480

52% dos brasileiros temem avanço da inteligência artificial e 42% acreditam que tecnologia vai reduzir empregos

Uma pesquisa do Pew Research Center revelou que 52% dos brasileiros estão mais preocupados do que animados com o avanço da inteligência artificial. O número coloca o país acima da mediana global de 37% e mostra o nível de preocupação com os efeitos da tecnologia.

O receio aparece principalmente quando o assunto é trabalho. Para muitos brasileiros, a expansão da IA vai resultar em menos postos de trabalho nos próximos 20 anos.

Brasileiros temem impacto da inteligência artificial no trabalho, e jovens estão ainda mais preocupados. – Imagem: Taris Tonsa/Shutterstock

Empregos estão entre os principais receios

A preocupação ganha força na discussão sobre o futuro profissional. Para 42% dos brasileiros, a inteligência artificial vai resultar em menos empregos nos próximos 20 anos. Outros 13% esperam um aumento nas vagas, enquanto 34% não sabem ou não têm uma opinião formada.

A expectativa de redução também aparece na maior parte dos países pesquisados. Em 34 dos 37 países e territórios analisados, mais pessoas esperam uma queda do que um aumento no número de empregos.

Entre os países de renda média, a mediana dos que esperam redução nas vagas é de 36%. Nos países de renda alta, o índice chega a 55%.

Temor cresce entre os mais jovens

Entre os brasileiros de 18 a 34 anos, a preocupação aumentou em um ano. Em 2025, 32% dessa faixa etária diziam estar mais preocupados do que animados com a inteligência artificial. Em 2026, o percentual chegou a 44%, uma alta de 12 pontos percentuais.

A preocupação com os empregos também é elevada entre jovens de outros países. Nos Estados Unidos, 74% dos entrevistados de 18 a 34 anos acreditam que a IA levará à redução de vagas. O percentual é de 69% no Canadá, 66% na França e 63% na Suécia.

Apesar da preocupação, 27% dos brasileiros afirmam nunca ter ouvido ou lido sobre inteligência artificial. Outros 42% dizem ter ouvido ou lido um pouco, enquanto 31% afirmam ter ouvido ou lido muito sobre o tema.

A parcela que declara ter ouvido ou lido muito sobre IA cresceu de 22% em 2025 para 31% em 2026. Nos países de renda média, a mediana é de 27%.

Chefe do FMI vê na inteligência artificial uma força de crescimento econômico e desigualdade social
Cerca de 24% dos entrevistados no Brasil acreditam que a inteligência artificial vai ampliar a desigualdade econômica no país. Imagem: thanmano / Shutterstock

Desigualdade econômica e perspectivas

A pesquisa também avaliou como os brasileiros enxergam os possíveis efeitos da IA sobre a desigualdade econômica. Para 24%, a tecnologia aumentará a desigualdade nos próximos 20 anos. Outros 35% acreditam que ela não terá impacto significativo nesse aspecto.

Leia mais:

Nos países de renda alta, a mediana dos que esperam aumento da desigualdade é de 35%. Entre os países de renda média, chega a 22%.

Os números mostram que a preocupação com a inteligência artificial no Brasil envolve principalmente o futuro do trabalho, enquanto uma parcela significativa da população ainda tem pouco ou nenhum contato com informações sobre a tecnologia.

O post 52% dos brasileiros temem avanço da inteligência artificial e 42% acreditam que tecnologia vai reduzir empregos apareceu primeiro em Olhar Digital.

52% dos brasileiros temem avanço da inteligência artificial e 42% acreditam que tecnologia vai reduzir empregos Read More »