onu

Auto Added by WPeMatico

openai 1 1024x576 2

Agentes da OpenAI são investigados após acessos à ONU e tentativas em sites do governo dos EUA

Deixe um comentário / agentes de IA, inteligência artificial, onu, openai, Segurança e Privacidade /

Agentes de inteligência artificial da OpenAI fizeram mais de 16 mil acessos a um site da Organização das Nações Unidas (ONU) entre abril e junho. Um relatório independente aponta que os sistemas adotaram técnicas agressivas para obter informações públicas quando encontraram obstáculos.

Segundo o The Wall Street Journal, os bots chegaram a contornar um filtro que bloqueava solicitações de dados e usaram uma técnica não permitida pelos operadores do site. O episódio faz parte de uma série de casos recentes envolvendo o comportamento de agentes de IA da OpenAI na internet.

Entre os episódios analisados estão acessos inesperados a sites de órgãos do governo dos Estados Unidos.

A OpenAI investiga comportamentos de agentes que contornaram controles de segurança em sites externos. – Imagem: Novikov Aleksey/Shutterstock

O que aconteceu no site da ONU

A atividade foi registrada em um hub público de dados da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD). Os agentes aparentemente buscavam informações disponíveis na internet, mas mudaram de estratégia diante das barreiras encontradas.

O relatório foi produzido por Rowan Howard-Jones, engenheira que acompanha evidências públicas sobre a atuação de agentes da OpenAI. A análise utilizou dados fornecidos pela empresa de pesquisa em IA Transluce.

Os principais pontos identificados foram:

  • Mais de 16 mil acessos ao hub de dados da ONU;
  • Atividade entre abril e o fim de junho;
  • Tentativa de contornar um filtro que bloqueava solicitações;
  • Uso de uma técnica não permitida pelos operadores;
  • Busca por informações disponíveis publicamente.

Um representante da ONU não comentou imediatamente o caso. A OpenAI disse que está analisando as descobertas e entrou em contato com a organização para oferecer uma apresentação da equipe responsável pela apuração.

“Estamos analisando essas descobertas e entramos em contato com a ONU para oferecer uma apresentação com a equipe que conduz essa análise”, disse uma porta-voz da OpenAI.

OpenAI investiga outros episódios

A OpenAI afirmou que realiza uma revisão ampla e contínua de comportamentos desalinhados apresentados por seus modelos durante treinamento e avaliação. Segundo a empresa, a análise envolve um grande volume de ações realizadas pelos sistemas.

“Embora a maior parte da atividade que analisamos até agora envolva tarefas rotineiras de pesquisa, como acessar conteúdo público da internet para responder a perguntas, reconhecemos que qualquer pessoa afetada leva isso a sério, e nós também”, afirmou a empresa.

A OpenAI também informou ter notificado dezenas de organizações sobre situações nas quais seus modelos contornaram controles de segurança ou afetaram negativamente sites.

Entre os episódios analisados estão acessos inesperados a sites de órgãos do governo dos Estados Unidos. A empresa confirmou casos envolvendo o Departamento de Comércio e a Comissão de Valores Mobiliários (SEC). Pesquisadores também relataram uma tentativa de acesso ao site do Departamento de Educação.

Na Austrália, o governo informou que agentes da OpenAI invadiram um de seus sites. Autoridades australianas abriram uma investigação sobre o episódio.

imagem associando o logo da onu a elementos de internet e inteligência artificial
No caso da ONU, os agentes contornaram um filtro que bloqueava solicitações de dados públicos. – Imagem: mr_tigga/Shutterstock

Atuação ficou próxima de um ataque

Alex Stamos, professor de cibersegurança em Stanford, afirmou que o comportamento no site da ONU ficou próximo do que classificaria como invasão. Para ele, o episódio foi uma forma “realmente muito agressiva de coleta e recuperação de dados”.

Leia mais:

Outros casos identificados por pesquisadores de segurança incluem a criação de endereços de e-mail falsos, o contorno de limites de acesso de sites e declarações falsas de que os sistemas não eram bots.

A atividade registrada no site da ONU se soma a outros episódios envolvendo agentes da OpenAI que adotaram estratégias para contornar restrições durante tarefas de busca e coleta de informações na internet.

O post Agentes da OpenAI são investigados após acessos à ONU e tentativas em sites do governo dos EUA apareceu primeiro em Olhar Digital.

Agentes da OpenAI são investigados após acessos à ONU e tentativas em sites do governo dos EUA Read More »

poder guerra rssia eua

EUA e Rússia retiraram exigência de supervisão humana de pacto global sobre armas autônomas com IA

Deixe um comentário / EUA, inteligência artificial, onu, rússia /

No início de setembro, centenas de diplomatas se reuniram em uma sala de conferências da ONU para trabalhar em um tratado destinado a regular o uso de armas autônomas letais. Esse seria o primeiro acordo internacional do tipo.

As discussões ganharam força após os episódios de comportamentos inesperados de agentes de inteligência artificial. No entanto, Estados Unidos e Rússia atuaram para enfraquecer uma série de salvaguardas discutidas no âmbito desse esforço da ONU.

Diplomatas dos dois países atuaram com o mesmo propósito

De acordo com reportagem do The Washington Post, diplomatas norte-americanos e russos trabalharam intensamente no documento, removendo uma série de disposições destinadas a salvaguardar o uso de inteligência artificial em armas. Entre elas, estava a exigência de supervisão humana sobre o uso desse tipo de armamento.

Eles ainda retiraram a linguagem que exige que os sistemas operem de maneira “previsível” e “confiável”. Além de removerem uma cláusula que exigia que considerações éticas fossem levadas em consideração ao usar armamentos de IA.

O Departamento de Estado dos EUA, o Ministério das Relações Exteriores da Rússia e a Organização das Nações Unidas não se pronunciaram publicamente sobre o assunto.

Estados Unidos e Rússia adotaram posição semelhante nas discussões de pacto global sobre armas com IA (Imagem: Africa Stock/Shutterstock)

Governo dos EUA tem minimizado riscos envolvendo a IA

  • O comportamento dos Estados Unidos durante os debates sobre armas autônomas reforça o posicionamento do governo do país.
  • Ao longo dos últimos dias, o presidente Donald Trump minimizou os alertas relacionados à IA.
  • Durante discurso na Assembleia Geral da ONU, o republicano ainda descartou qualquer cooperação global com o objetivo de frear o avanço da tecnologia.
  • E deixou claro que a Casa Branca deseja vencer a corrida da inteligência artificial.
  • Já em relação ao uso militar da IA, o governo dos EUA havia entrado em um embate com o Anthropic.
  • A justiça acabou dando razão à Casa Branca, como você pode conferir nessa reportagem do Olhar Digital sobre o assunto.

O post EUA e Rússia retiraram exigência de supervisão humana de pacto global sobre armas autônomas com IA apareceu primeiro em Olhar Digital.

EUA e Rússia retiraram exigência de supervisão humana de pacto global sobre armas autônomas com IA Read More »

lula na onu 22 de setembro de 2026 1024x576 1

Efeito “bomba atômica” da IA: mundo volta a tratar uma tecnologia como ameaça à paz mundial após mais de 80 anos

Deixe um comentário / Bomba Atômica, inteligência artificial, onu, organização das nações unidas /

Representantes de 193 países estão reunidos em Nova York, nos EUA, para a 81ª Assembleia Geral da Organização das Nações Unidas (ONU), iniciada na terça-feira (22), com o objetivo de discutir os rumos da segurança global, especialmente diante das ameaças e desafios impostos pelo avanço desenfreado da inteligência artificial (IA).

Em participação no programa Olhar Digital News (que você pode assistir na íntegra aqui), Álvaro Machado Dias, professor da Universidade Federal de São Paulo (Unifesp), neurocientista, futurista e colunista do Olhar Digital, disse que é a primeira vez em 80 anos que uma inovação tecnológica volta a ser encarada com o mesmo nível de alerta atribuído ao surgimento das armas nucleares na década de 1940.

Lula durante discurso na Assembleia Geral da ONU de 2026. – Crédito: Reprodução/ONU

Ao analisar a presença de executivos no Conselho de Segurança, ele destacou como a tecnologia passou a ser vista como um ator geopolítico independente nas discussões diplomáticas. “Quando o Conselho de Segurança convoca uma reunião sobre IA, ele está dizendo que essa coisa, esse ente que existe sem bandeira, sem exército, sem território, pode ameaçar a paz. A última grande categoria comparável em algum nível foi a energia nuclear, e a gente tem aqui 80 anos nos separando da bomba atômica”.

Decisões autônomas diferenciam riscos da IA e das armas nucleares 

Há, no entanto, uma diferença marcante no atual debate sobre segurança militar mundial. No caso das bombas atômicas, o temor sempre foi a decisão humana de apertar o botão. Já com os novos sistemas virtuais, existe a tese de uma ameaça que pode agir por conta própria.

Dias destaca a diferença fundamental entre os arsenais do passado e as incertezas trazidas pelo avanço das ferramentas digitais de última geração. “No caso das armas nucleares, ninguém nunca achou que a bomba podia se autoexplodir e acabar com o mundo, sempre a questão foi como desentendimentos poderiam criar destruição mútua. Agora, no caso da inteligência artificial, existe essa tese de que ela estaria caminhando para poder adquirir uma capacidade e talvez até uma intencionalidade orientada à destruição da humanidade”.

Infográfico compara a ameaça nuclear, dependente de comando, ao risco de sistemas de IA capazes de agir de forma autônoma.
Infográfico compara a ameaça nuclear, dependente de comando, ao risco de sistemas de IA capazes de agir de forma autônoma. – Crédito: Imagem gerada por IA

A consequência prática dessa reclassificação é a mudança nos burocratas encarregados das negociações. A pauta saiu das mãos dos ministérios de ciência e tecnologia para ser gerida por ministros da defesa, chefes de inteligência e diplomatas de alto escalão.

Essa transição altera profundamente a natureza dos acordos entre as grandes potências. Quando o assunto é segurança nacional, o foco das reuniões deixa de ser a criação de empregos e passa a ser a proteção contra colapsos sociais imprevisíveis.

Apesar dos alertas sobre perigos futuros, o impacto imediato já afeta o cotidiano das pessoas. A ausência de regras globais consolidadas abre espaço para abusos comerciais, invasão de privacidade e disseminação massiva de desinformação nas redes virtuais.

Avanço sem freios exige criação de auditorias internacionais 

Também em participação no Olhar Digital News (veja aqui), Roberto Pena Spinelli, físico pela Universidade de São Paulo (USP), especialista em Machine Learning pela Universidade de Stanford, nos EUA, e colunista do Olhar Digital, ressaltou a gravidade da ausência de fiscalização direta sobre as corporações:

“A IA é um negócio superpoderoso no mundo, a gente está percebendo os impactos. E não tem praticamente nenhuma regulação, não tem nada específico para ela. A gente está vendo um monte de coisas que a gente não sabe como lidar, questões de direitos autorais, questões de manipulação de informação, de maus usos, de IA escapando da caixa e cometendo crimes, e ainda com zero regulações”, disse Pena, complementando que, “por mais que as empresas associadas estejam se manifestando, não é o suficiente, não dá para a própria empresa se autorregular.”

Auditorias independentes podem acompanhar de perto as empresas de inteligência artificial, cobrar transparência sobre riscos, aplicar sanções quando houver abuso e ajudar a tornar o avanço da tecnologia mais seguro.
Auditorias independentes podem monitorar as empresas de inteligência artificial, cobrar transparência sobre riscos, aplicar sanções quando houver abuso e ajudar a tornar o avanço da tecnologia mais seguro. – Crédito: Imagem gerada por IA

Para tentar frear esses problemas reais, iniciativas europeias buscam estabelecer auditorias internacionais obrigatórias. Propostas lideradas por países como Finlândia e Noruega tentam impor limites de velocidade ao desenvolvimento de modelos avançados e criar mecanismos claros de responsabilização jurídica.

Pena aponta como essas propostas buscam proteger a sociedade civil, destacando a necessidade de órgãos independentes capazes de fiscalizar gigantes de tecnologia e impor sanções concretas caso normas éticas sejam violadas. “O que esse órgão que está sendo criado está pedindo é que você tenha mecanismos de auditoria, de controle das empresas, de ter que reportar os riscos associados. O mais importante é ter órgãos realmente fiscalizando isso e podendo colocar sanções, se for o caso”.

Enquanto a diplomacia tenta encontrar consensos entre nações divididas, a tecnologia avança a passos rápidos. O desafio global nos próximos anos será equilibrar a inovação com a proteção contra ameaças que, até pouco tempo, pareciam restritas aos filmes de ficção científica.

O post Efeito “bomba atômica” da IA: mundo volta a tratar uma tecnologia como ameaça à paz mundial após mais de 80 anos apareceu primeiro em Olhar Digital.

Efeito “bomba atômica” da IA: mundo volta a tratar uma tecnologia como ameaça à paz mundial após mais de 80 anos Read More »

sam altman openai scaled 1 1024x576 1

Chefes de OpenAI e Anthropic pedem cooperação internacional para controlar riscos da IA após fala de Trump na ONU

Deixe um comentário / Anthropic, dario amodei, inteligência artificial, onu, openai, Sam Altman /

Os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, defenderam, nesta quarta-feira (23), uma maior cooperação internacional para lidar com os riscos associados ao avanço da inteligência artificial (IA) durante reunião do Conselho de Segurança das Nações Unidas (ONU).

A participação dos dois executivos ocorre um dia depois de o presidente dos Estados Unidos, Donald Trump, rejeitar o que chamou de um “esquema globalista” para controlar a IA durante discurso na Assembleia Geral da ONU. Trump afirmou que os EUA continuarão incentivando o desenvolvimento da tecnologia e que não pretende “frear” seu crescimento.

Na ONU, Altman apresentou posição diferente. Para o executivo, países que competem entre si e nem sempre mantêm boas relações podem trabalhar juntos diante de tecnologias capazes de produzir impactos significativos. “Acreditamos que este deve ser um desses momentos”, afirmou Altman, defendendo que a IA seja tratada como uma questão que exige cooperação internacional.

Altman e Amodei se aproximam na questão da segurança

A posição conjunta dos executivos chama atenção porque OpenAI e Anthropic são concorrentes diretas no desenvolvimento de modelos avançados de IA.

No início de setembro, Amodei publicou um texto defendendo que a indústria desacelere o ritmo de desenvolvimento dos modelos de fronteira. O CEO da Anthropic argumentou que o avanço das capacidades dos sistemas poderia superar a capacidade das empresas e dos governos de compreender e controlar seus riscos.

A proposta apresentada por Amodei envolve três frentes principais: permitir que avaliadores independentes tenham acesso aos sistemas das empresas para verificar suas práticas de segurança; ampliar a coordenação entre companhias que desenvolvem modelos de fronteira; e estabelecer cooperação internacional para reduzir riscos associados à tecnologia.

Altman manifestou publicamente apoio à ideia de estabelecer um ritmo mais controlado para o desenvolvimento da chamada IA de fronteira.

A discussão ganhou força depois de uma série de episódios envolvendo modelos avançados e preocupações sobre sua capacidade de executar ações potencialmente prejudiciais.

A Reuters informou que executivos de OpenAI, Anthropic e Hugging Face participaram da sessão do Conselho de Segurança em meio a alertas de que sistemas cada vez mais avançados poderiam adquirir novas capacidades e representar riscos para a segurança internacional.

Trump rejeita a ideia de limitar o avanço da IA

As declarações de Altman e Amodei ocorreram um dia depois do discurso de Trump na Assembleia Geral da ONU.

O presidente estadunidense rejeitou propostas de criação de mecanismos internacionais para controlar o desenvolvimento da IA e afirmou que os Estados Unidos não deveriam impedir o crescimento da tecnologia. “Não vou impedir o crescimento de algo que será maior do que a Revolução Industrial”, disse Trump.

Trump também afirmou que os EUA rejeitam qualquer tentativa de criar um “esquema globalista” para controlar a IA. O presidente defendeu que o país continue avançando no desenvolvimento da tecnologia e afirmou que quem dominar primeiro essa área terá uma vantagem estratégica.

O governo estadunidense também passou a defender o uso do termo “superinteligência” em documentos oficiais em lugar de “inteligência artificial”.

A posição de Trump contrasta com as recentes manifestações de executivos de empresas de IA que defendem algum grau de coordenação para lidar com os riscos do desenvolvimento de modelos cada vez mais capazes.

Altman e Amodei foram uma só voz na ONU – Imagem: FotoField/Shutterstock

Leia mais:

Debate envolve segurança e competição internacional

A discussão na ONU acontece em momento em que governos e empresas tentam definir como lidar com sistemas capazes de executar tarefas cada vez mais complexas.

A sessão do Conselho de Segurança foi organizada para discutir questões, como o uso malicioso da IA e a possibilidade de perda de controle sobre sistemas avançados. Além de Altman e Amodei, participaram ou foram convidados representantes da Hugging Face e especialistas ligados ao painel científico independente da ONU sobre IA.

O debate também envolve a competição tecnológica entre Estados Unidos e China. A busca por mecanismos de segurança precisa ser conciliada, na visão de diferentes participantes, com a preocupação de que regras excessivamente restritivas possam afetar o desenvolvimento e a competitividade das empresas.

A OpenAI, por exemplo, passou a defender a criação de padrões internacionais para avaliar capacidades e riscos de sistemas avançados e uma maior cooperação entre os Estados Unidos e a China em questões relacionadas à segurança da IA.

Pressão aumenta sobre as empresas de IA

As discussões ocorrem enquanto OpenAI e Anthropic avançam na expansão de seus negócios e se preparam para possíveis ofertas públicas de ações.

Nenhuma das duas empresas divulgou oficialmente uma data para uma eventual abertura de capital, embora as duas sejam apontadas como candidatas a realizar grandes IPOs.

Isso cria uma questão adicional para as companhias: ao mesmo tempo em que seus executivos defendem maior cautela no desenvolvimento da IA, as empresas estão submetidas a fortes pressões comerciais para continuar ampliando a capacidade de seus modelos.

Amodei, porém, afirma que desacelerar não significa interromper o desenvolvimento da tecnologia. A proposta apresentada pelo CEO da Anthropic busca criar mecanismos de avaliação e coordenação que acompanhem o ritmo de evolução dos modelos.

Na ONU, Altman resumiu a posição defendida pelas empresas ao argumentar que a cooperação internacional pode ser necessária mesmo entre países que permanecem competidores.

“Em nossa história, houve momentos em que países que competem e nem sempre gostam muito uns dos outros ainda assim se uniram por interesses compartilhados e pelo bem coletivo diante de uma nova tecnologia poderosa”, afirmou o CEO da OpenAI.

O post Chefes de OpenAI e Anthropic pedem cooperação internacional para controlar riscos da IA após fala de Trump na ONU apareceu primeiro em Olhar Digital.

Chefes de OpenAI e Anthropic pedem cooperação internacional para controlar riscos da IA após fala de Trump na ONU Read More »

ia ciberseguranca 1024x576

IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos

Deixe um comentário / futuro, inteligência artificial, onu, Riscos da IA, Segurança /

Especialistas de um painel científico da ONU defenderam nesta segunda-feira (22) mais cautela ao tratar dos riscos da inteligência artificial. A avaliação é que previsões apocalípticas podem misturar evidências, hipóteses e incertezas sobre o futuro da tecnologia.

O alerta surgiu durante um evento em Nova York, realizado à margem da Assembleia Geral da ONU. Os pesquisadores afirmam que é preciso separar aquilo que a ciência já consegue sustentar do que ainda é apenas uma possibilidade.

O debate sobre a IA envolve riscos graves, mas também incertezas que ainda dividem os próprios especialistas. – https://olhardigital.com.br/wp-content/uploads/2026/05/ia_ciberseguranca.jpg

Críticas ao discurso sobre o fim da humanidade

Joelle Barral, executiva do Google DeepMind e integrante do Painel Científico Internacional sobre IA, defendeu que o debate seja guiado pelo conhecimento disponível.

“Como cientistas, é muito importante investir na ciência, para realmente distinguir o que sabemos do que não sabemos, e investir no medo não ajuda muito”, disse Barral.

A declaração veio após uma pergunta da AFP sobre manifestações recentes envolvendo os perigos da IA. No início de setembro, Jacob Coxon, ex-funcionário da Anthropic que também trabalhou na OpenAI, afirmou que desenvolvedores acreditavam que a tecnologia “poderia matar todos nós até o fim da década”.

Um engenheiro de pesquisa que deixou o Google DeepMind em julho fez uma avaliação semelhante. Segundo ele, talvez já fosse “tarde demais para evitar” a extinção da humanidade pela IA.

Especialistas ainda divergem sobre os riscos

Maria Ressa, vencedora do Prêmio Nobel da Paz e jornalista investigativa, também questionou a forma como o tema costuma ser apresentado.

“A verdade, porém, é muito mais complexa e sofisticada”, afirmou Ressa. Na avaliação dela, transformar a discussão em uma questão ideológica prejudica a compreensão do problema.

Os especialistas destacaram alguns pontos para orientar essa discussão:

  • separar evidências científicas de hipóteses;
  • reconhecer as incertezas existentes;
  • considerar a gravidade dos riscos;
  • evitar afirmações excessivamente categóricas;
  • manter uma discussão global baseada em evidências.
Riscos da IA
O discurso oscila entre o pavor irracional de robôs e o total descaso, alerta painel científico. – imagem criada por inteligência artifiicial: Gemini/Olhar Digital

Painel científico foi criado em 2025

O Painel Científico Internacional sobre IA foi criado em 2025, e seus integrantes foram escolhidos em fevereiro de 2026. O grupo busca ampliar a compreensão científica sobre a inteligência artificial e contribuir para as discussões da ONU.

Leia mais:

Yoshua Bengio, considerado um dos pioneiros da IA e copresidente do painel, chamou atenção para uma dificuldade central: separar o que os pesquisadores sabem daquilo que pode ser apenas “extrapolado de forma plausível” a partir das evidências.

Esse limite ainda divide os especialistas. Por isso, Bengio também fez um alerta sobre declarações muito contundentes: “O problema de gritar muito alto é que outra pessoa também pode gritar muito alto”.

Para Bengio, o debate precisa considerar a falta de certezas em parte das previsões sobre a tecnologia. Ele defendeu “uma discussão racional global sobre o que está acontecendo, inclusive sobre a incerteza e sobre a gravidade dos riscos”.

A avaliação apresentada pelos integrantes do painel reforça a necessidade de distinguir o conhecimento científico disponível das projeções feitas a partir dele, especialmente em um campo no qual os próprios especialistas ainda divergem sobre a extensão dos riscos.

O post IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos apareceu primeiro em Olhar Digital.

IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos Read More »

unga 81 general debate live 22 september 2026 day 1 sg usa france uk and more 4 5 screenshot 1024x576

“Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la

Deixe um comentário / inteligência artificial, onu /

O secretário-geral da ONU, António Guterres, alertou nesta terça-feira (22) para os riscos do avanço acelerado da inteligência artificial (IA) durante a abertura da 81ª Assembleia Geral das Nações Unidas. Segundo ele, a tecnologia está evoluindo mais rápido do que a capacidade da humanidade de compreender completamente seus efeitos.

“Até mesmo aqueles que criaram a inteligência artificial estão nos dizendo que estão ficando cegos diante dela”, afirmou Guterres. O secretário-geral classificou a IA como um dos quatro grandes “testes de poder” do futuro, ao lado de guerra e paz, desigualdade e crise climática.

Guterres compara IA às armas nucleares

Durante o discurso, Guterres comparou os desafios impostos pela inteligência artificial aos riscos das armas nucleares durante a Guerra Fria. Segundo ele, mesmo em um período marcado pela rivalidade entre grandes potências, os países reconheceram a necessidade de administrar riscos que poderiam afetar toda a humanidade.

“Atualmente, os humanos estão cada vez mais entregando poder às máquinas”, afirmou. Segundo Guterres, isso já ocorre com “agentes de inteligência artificial saindo do controle” e com armas autônomas letais deixando de ser ficção científica para se tornar uma realidade militar.

Para o secretário-geral, as estruturas atuais de governança global não acompanharam essa mudança. “Nossas instituições e sistemas de governança global continuam refletindo as realidades de poder e os interesses de uma era amplamente ultrapassada”, disse.

Guterres também alertou para o risco de uma disputa entre países pelo controle da tecnologia. “Não podemos permitir que uma corrida armamentista pelo controle da IA nos leve ao precipício”, afirmou.

O secretário-geral defendeu que os países estabeleçam mecanismos de cooperação semelhantes aos criados durante a Guerra Fria para administrar riscos compartilhados. “A inteligência artificial exige a mesma clareza de propósito e senso de urgência”, declarou.

Guterres discutiu IA em seu discurso desta terça-feira (22) – Imagem: Reprodução/ONU

ONU pede regras para o desenvolvimento da IA

Guterres afirmou que a IA representa uma concentração de poder baseada em dados, capacidade computacional e algoritmos. Segundo ele, esse novo poder está concentrado em poucas mãos, avança em velocidade extraordinária e corre à frente da capacidade de compreender todas as suas consequências.

Apesar dos riscos, o secretário-geral destacou que a tecnologia também tem potencial para produzir avanços. “A IA é, de fato, uma tecnologia transformadora”, afirmou, citando possibilidades como avanços na medicina, aceleração de descobertas científicas, ampliação de oportunidades e melhoria da qualidade de vida.

“O perigo não é a tecnologia”, disse Guterres. “O perigo é a tecnologia sem responsabilização: capacidade sem supervisão; tomada de decisões sem transparência.”

Segundo o secretário-geral, “os próprios desenvolvedores que estão construindo esses sistemas agora estão soando o alarme”. Por isso, ele defendeu que os governos assumam responsabilidade pela segurança da população, especialmente aqueles que possuem as maiores capacidades de desenvolvimento de IA.

“Os países que lideram essa revolução tecnológica devem compartilhar informações sobre riscos emergentes de segurança, cooperar em testes e avaliações e trabalhar para estabelecer salvaguardas comuns que protejam a todos”, afirmou.

Guterres também defendeu uma atuação multilateral para a governança da tecnologia. Segundo ele, a ONU é o único espaço em que todos os países têm voz na definição do futuro da IA.

O secretário-geral citou o Pacto Digital Global, o Diálogo Global sobre Governança da IA e o Painel Científico Internacional Independente sobre IA como iniciativas que já envolvem governos, cientistas, empresas e sociedade civil.

Entre os próximos passos, Guterres defendeu condições para um ritmo responsável de desenvolvimento da IA e a criação de um marco multilateral de gerenciamento de riscos, apoiado por supervisão independente e considerada confiável.

“A inteligência artificial deve ser moldada pela humanidade, com a humanidade e para toda a humanidade”, afirmou.

O secretário-geral também destacou a necessidade de proteger crianças de sistemas ainda não regulamentados. “Crianças nunca devem se tornar cobaias de sistemas não regulamentados”, declarou.

Outro ponto levantado foi o uso da IA em decisões que envolvam a vida humana. “Decisões de vida ou morte nunca devem ser entregues às máquinas”, disse Guterres. Na sequência, acrescentou: “Robôs assassinos não devem ter lugar no nosso futuro”.

IA está mudando a distribuição de poder

Na avaliação de Guterres, os riscos da inteligência artificial estão relacionados a uma transformação mais ampla na forma como o poder é exercido e distribuído.

“Não estamos diante de crises separadas. Elas são capítulos da mesma história. A história do poder. Quem o possui. Quem é privado dele. Como ele é usado. E como está mudando”, afirmou.

O secretário-geral disse que a inteligência artificial está entre as forças que estão remodelando a distribuição de poder no mundo. Segundo ele, a tecnologia já está presente em praticamente todos os aspectos da vida, incluindo sistemas de água, redes elétricas, registros de saúde, economias e forças militares.

Guterres também afirmou que a IA pode tanto contribuir para enfrentar outros desafios globais quanto agravá-los. “A inteligência artificial poderia ajudar a resolver todos esses desafios ou torná-los ainda piores”, declarou.

Ao encerrar sua fala sobre o tema, o secretário-geral resumiu o desafio colocado pela tecnologia em uma frase: “governar a inteligência artificial antes que ela nos governe”.

Khalilur Rahman também defende regras para a IA

O presidente da 81ª sessão da Assembleia Geral da ONU, Khalilur Rahman, também abordou a inteligência artificial em seu discurso de abertura da sessão. Para ele, a tecnologia representa uma das principais mudanças do mundo atual e pode acelerar o progresso humano.

“A IA pode ser um poderoso acelerador do progresso humano; portanto, não devemos fechar a porta para a inovação”, afirmou Rahman.

Khalilur Rahman, presidente da 81ª Assembleia Geral da ONU
Khalilur Rahman, presidente da 81ª Assembleia Geral da ONU – Imagem: Reprodução/ONU

Ao mesmo tempo, o presidente da Assembleia Geral destacou possíveis impactos negativos. Entre eles, citou a perda de empregos e o aumento da desigualdade digital. Ele também afirmou que não é possível descartar a possibilidade de que a inteligência artificial geral, ou AGI, afete a sobrevivência humana.

Por isso, Rahman defendeu a adoção de “guardrails” baseados em evidências científicas. Segundo ele, essas medidas devem proteger o interesse público global sem impedir que a inovação avance.

“Precisamos abrir as portas das Nações Unidas para aqueles que desenvolvem e usam IA. Não algum dia. Agora. Estamos ficando cada vez mais para trás a cada dia”, afirmou.

Rahman também destacou que a tecnologia já está incorporada a diferentes áreas da sociedade e afirmou que governos, empresas, inovadores, cientistas, sociedade civil e academia precisam participar da discussão sobre sua governança.

O post “Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la apareceu primeiro em Olhar Digital.

“Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la Read More »

modelos de ia 1024x576

ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global

Deixe um comentário / agentes de IA, inteligência artificial, onu, Riscos da IA /

A inteligência artificial entrou no centro das discussões da ONU nesta semana. Diplomatas, pesquisadores e representantes do setor de tecnologia se reuniram durante a abertura da 81ª sessão da Assembleia Geral para discutir os riscos de sistemas cada vez mais autônomos, segundo o The New York Times.

O debate ganhou força após uma sequência de incidentes envolvendo agentes de IA e coincidiu com uma proposta de 20 países e da União Europeia para ampliar a cooperação internacional. A ideia inclui a criação de uma instituição global para estabelecer padrões e verificar medidas de segurança, de acordo com a Al Jazeera.

O debate na ONU ganhou força após agentes de IA serem envolvidos em ataques contra empresas, segundo os relatos citados na matéria. – Imagem: Summit Art Creations/Shutterstock

IA continua sob controle humano

Centenas de participantes estiveram no Digital Cooperation Day, encontro dedicado à cooperação internacional em inteligência artificial. O evento reuniu diplomatas, executivos, especialistas em tecnologia e acadêmicos.

Amandeep Singh Gill, subsecretário-geral da ONU e enviado especial para tecnologias emergentes, criticou a ideia de que o avanço da tecnologia seja algo impossível de administrar. “A IA não é uma força incontrolável da natureza — ela é construída por humanos e pode ser controlada por humanos”, afirmou ao The New York Times.

A preocupação não se limita ao funcionamento dos sistemas. O ator e diretor Joseph Gordon-Levitt, primeiro defensor global da ONU para uma governança digital centrada nas pessoas, afirmou que a forma como a IA é apresentada pode criar a impressão de que a humanidade está indefesa diante da tecnologia.

Para ele, é necessário manter as pessoas no centro dessa discussão.

Incidentes ampliam preocupação

Essa discussão ocorre enquanto novos episódios colocam em questão a capacidade de controlar agentes capazes de executar ações sem comando humano direto. A OpenAI informou que agentes automatizados participaram de um ataque contra a infraestrutura de IA da Hugging Face. Depois, a Anthropic relatou casos envolvendo outras empresas, enquanto o Google revelou que seu sistema Gemini saiu do ambiente de testes e invadiu várias empresas, segundo o The New York Times.

O painel científico internacional independente criado pela ONU analisou o caso da Hugging Face. O grupo classificou o episódio como um possível alerta para uma perda de controle mais grave, na qual agentes poderiam perseguir objetivos que ultrapassassem ou entrassem em conflito com as intenções humanas.

Os riscos, porém, não estão restritos a esse tipo de incidente. Sonia Livingstone, integrante do painel, citou problemas já associados à expansão da IA, como materiais de abuso sexual infantil, deepfakes usados em pornografia, chatbots que reforçam crenças equivocadas e a produção em massa de conteúdo sem fundamento.

A maioria dos danos afeta de forma desproporcional as pessoas desfavorecidas.

Sonia Livingstone, diretora do centro Digital Futures for Children da London School of Economics and Political Science, ao The New York Times.

Entre a autonomia e o perigo: o que representa uma IA sem controle humano e os riscos dos seus aportes bilionários?
A proposta internacional inclui padrões comuns, compartilhamento de incidentes e mecanismos para verificar as regras de segurança. – Crédito: Imagem gerada por IA

Países propõem regras comuns

Os episódios envolvendo agentes de IA ajudam a explicar por que a segurança da tecnologia também avançou na agenda diplomática. Em uma declaração divulgada na segunda-feira, 20 países e a União Europeia defenderam que a inteligência artificial permaneça sob “direção, supervisão e controle humanos”, segundo a Al Jazeera.

A proposta inclui:

  • criação e coordenação de padrões comuns;
  • compartilhamento de informações sobre incidentes graves;
  • mecanismos para verificar esses padrões;
  • uma instituição internacional capaz de reunir países quando determinados níveis de capacidade forem atingidos.

Alemanha, África do Sul, Canadá, Austrália, Emirados Árabes Unidos e Singapura estão entre os signatários. Estados Unidos e China não aderiram à declaração, assim como Índia, Coreia do Sul, Japão, Reino Unido e França.

Governança ainda sem consenso

O painel científico da ONU afirmou que ainda não existe uma solução rápida para os problemas identificados e defendeu mais atenção e recursos. A discussão também envolve efeitos da dependência de ferramentas de IA sobre educação, empregos e pensamento crítico.

Leia mais:

A proposta de criar padrões e uma estrutura internacional de supervisão representa uma tentativa de coordenar respostas entre diferentes governos. Por enquanto, porém, a ausência de Estados Unidos e China mostra que ainda não há consenso entre algumas das principais potências envolvidas no desenvolvimento da tecnologia.

O post ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global apareceu primeiro em Olhar Digital.

ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global Read More »

istock 2285744191 1024x576 3

ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados

Deixe um comentário / IA generativa, inteligência artificial, onu, regulamentação, Riscos da IA /

Governos não deveriam esperar que todos os riscos da inteligência artificial sejam completamente compreendidos para começar a criar salvaguardas, defende a ONU. O alerta está no primeiro relatório temático do painel científico internacional criado pela organização para avaliar os riscos e as oportunidades da tecnologia.

O documento chama a atenção para ameaças que podem ser catastróficas ou irreversíveis. A discussão ocorre durante a Assembleia Geral da ONU, enquanto Estados Unidos e China se preparam para conversar sobre inteligência artificial.

Para a ONU, a incerteza científica não deve impedir medidas contra possíveis danos graves ou irreversíveis causados pela IA – Imagem: Infinite Creations/iStock

O princípio da precaução

Para o painel, não é preciso descobrir exatamente como ou por que determinados incidentes envolvendo sistemas avançados de IA acontecem antes de reforçar a segurança.

A recomendação recorre ao princípio da precaução. A ideia é que a incerteza científica, por si só, não deve impedir medidas contra possíveis danos graves ou irreversíveis. O conceito foi incorporado à Declaração do Rio sobre Meio Ambiente e Desenvolvimento, de 1992, e passou a influenciar políticas ambientais e de saúde pública.

O relatório considera esse princípio particularmente importante diante da possibilidade de perda de controle sobre sistemas de IA. Entre os pontos destacados estão:

  • mais atenção aos riscos de sistemas avançados;
  • mais recursos para segurança da IA;
  • maior coordenação entre países;
  • mecanismos mais fortes de responsabilização;
  • salvaguardas mesmo quando ainda existem incertezas científicas.

O texto também menciona incidentes envolvendo empresas como OpenAI, Anthropic, Google e Meta, incluindo ataques a alvos reais e grupos de agentes assumindo o controle de fóruns de mensagens.

Como a ONU pretende agir

O painel científico é parte de uma estrutura montada pela ONU para discutir a governança da inteligência artificial. Sua função é oferecer aos governos uma avaliação independente sobre aquilo que já se sabe — e o que permanece desconhecido — a respeito da tecnologia.

Ao lado dele está o Diálogo Global sobre Governança de IA. O painel apresenta as evidências, enquanto o diálogo reúne governos e outros setores para discutir cooperação e compatibilidade entre diferentes abordagens de governança.

António Guterres, secretário-geral da ONU, resumiu a posição da organização: “A ação nacional é essencial, mas a coordenação global é indispensável”.

Ilustração da distribuição de uso da IA pelo mundo
Governos são incentivados a agir antes que exista certeza científica completa sobre os riscos de sistemas avançados de IA. – Imagem criada com IA. ChatGPT/Olhar Digital

EUA e China no centro das conversas

O tema chega à agenda internacional no momento em que Estados Unidos e China se preparam para discutir IA. Guterres defende que os países com maior capacidade no desenvolvimento de sistemas de fronteira mantenham canais de contato, troquem informações e estabeleçam salvaguardas comuns.

Leia mais:

O secretário-geral comparou o desenvolvimento da IA à corrida armamentista entre Estados Unidos e União Soviética durante a Guerra Fria. Para ele, mecanismos de cooperação são necessários para evitar uma disputa que eleve os riscos globais.

A ONU também trabalha em propostas como um compromisso internacional voltado à segurança de crianças no uso da IA e um fundo global para apoiar países em desenvolvimento na construção de infraestrutura e capacidade tecnológica.

Guterres resumiu a preocupação ao afirmar que “o mundo não pode se dar ao luxo de entrar em uma corrida para o nível mais baixo de segurança em IA”.

A organização busca transformar os mecanismos científicos e diplomáticos já criados em medidas práticas à medida que os sistemas de inteligência artificial avançam.

O post ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados apareceu primeiro em Olhar Digital.

ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados Read More »

donald trump 1024x683

Chefe da ONU alerta para corrida pela IA e defende regras comuns entre países para evitar riscos globais

Deixe um comentário / inteligência artificial, onu /

O secretário-geral da Organização das Nações Unidas (ONU), António Guterres, alertou, nesta quarta-feira (16), que os riscos associados ao rápido avanço da inteligência artificial (IA) não podem ser ignorados. A declaração ocorre em meio ao debate crescente sobre a necessidade de criar mecanismos de supervisão para sistemas cada vez mais avançados.

As declarações foram dadas antes da Assembleia Geral da ONU, que será realizada na próxima semana em Nova York (EUA). Segundo Guterres, a necessidade de uma supervisão mais rigorosa da IA será um dos principais temas de suas conversas com líderes mundiais.

“Não podemos nos dar ao luxo de ignorar as preocupações que foram levantadas, especialmente por aqueles que estão na linha de frente do desenvolvimento da IA”, afirmou Guterres. Para ele, é responsabilidade de cada governo proteger seus cidadãos, inclusive contra possíveis ameaças representadas pela tecnologia.

A posição do secretário-geral contrasta com a do presidente dos Estados Unidos, Donald Trump. Na segunda-feira (14), Trump afirmou que o país já possui mecanismos de proteção para regular empresas de IA e responsabilizá-las quando necessário, minimizando os argumentos em favor de novas regras federais. Trump também afirmou que colocar dúvidas sobre o desenvolvimento da IA poderia beneficiar a China.

Crescem os alertas dentro da indústria de IA

  • O alerta de Guterres ocorre em momento de aumento das preocupações públicas sobre os riscos associados à IA;
  • Na semana passada, o pesquisador Jacob Coxon deixou a Anthropic e afirmou que uma das razões para sua saída foi a preocupação de que pessoas envolvidas no desenvolvimento da tecnologia acreditam que a IA poderia representar uma ameaça extrema à humanidade até o fim da década;
  • Executivos de algumas das maiores empresas do setor também passaram a defender uma desaceleração no desenvolvimento da tecnologia diante dos riscos apontados;
  • Guterres defende há anos a criação de mecanismos internacionais de governança para a IA. Em 2023, a ONU criou um órgão consultivo formado por 39 integrantes, incluindo executivos de empresas de tecnologia, autoridades governamentais e pesquisadores de países, como Estados Unidos, Rússia e Japão;
  • O Conselho de Segurança da ONU também poderá realizar reunião sobre IA na próxima semana, durante o encontro anual de líderes mundiais em Nova York. O órgão já havia realizado sua primeira reunião dedicada à IA em 2023.
Trump não concorda com visão da ONU e de alguns magnatas da IA – Imagem: lev radin/Shutterstock

Leia mais:

ONU quer mecanismos internacionais para controlar riscos

Para Guterres, os países com maior capacidade de desenvolver sistemas de IA de ponta deveriam estabelecer canais permanentes de contato e troca de informações, além de mecanismos comuns de segurança.

Segundo o secretário-geral, a ausência de coordenação poderia levar os países a uma espécie de corrida em direção ao desenvolvimento de sistemas cada vez mais poderosos, aumentando os riscos de desastre em escala global.

“Precisamos de um entendimento compartilhado sobre como promover o desenvolvimento seguro, protegido e responsável da IA, identificando quando sistemas cada vez mais poderosos podem exigir salvaguardas mais fortes ou medidas adicionais para administrar possíveis riscos”, afirmou Guterres.

O tema também deverá aparecer nas discussões entre Estados Unidos e China. Trump tem reunião prevista com o presidente chinês Xi Jinping na próxima semana, em Washington (EUA). Separadamente, os dois países planejavam realizar reunião em meados de setembro, conduzida por autoridades de escalões inferiores, para discutir os riscos associados à IA.

O post Chefe da ONU alerta para corrida pela IA e defende regras comuns entre países para evitar riscos globais apareceu primeiro em Olhar Digital.

Chefe da ONU alerta para corrida pela IA e defende regras comuns entre países para evitar riscos globais Read More »

ia seguranca cibernetica 1024x600

ONU pede ação urgente para criar regras globais de IA

Deixe um comentário / direitos humanos, inteligência artificial, onu, regulamentação, Riscos da IA /

O alto comissário da ONU para os Direitos Humanos, Volker Türk, cobrou medidas urgentes para regulamentar a inteligência artificial. O alerta decorre do avanço rápido dos sistemas mais avançados e dos riscos que essa evolução traz para a sociedade.

Para Türk, a corrida por sistemas cada vez mais poderosos ameaça direitos fundamentais e aumenta os riscos para diferentes aspectos da vida. O cenário exige que governos e empresas atuem urgentemente em estruturas multilaterais.

A ONU alerta que a corrida por sistemas de IA cada vez mais poderosos pode ameaçar direitos humanos e futuras gerações. – Imagem: Mer_Studio/Shutterstock

Líderes de tecnologia pedem cautela

A preocupação com o ritmo do desenvolvimento da IA também ganhou força entre grandes nomes do setor nos Estados Unidos. Executivos da área começaram a defender uma desaceleração para permitir uma avaliação mais aprofundada dos riscos associados às novas capacidades da tecnologia.

Dario Amodei, CEO da Anthropic, defendeu no sábado uma desaceleração no desenvolvimento da IA. A posição recebeu o apoio público de Sam Altman, da OpenAI, e de Elon Musk.

Embates políticos e segurança global

A ideia de desacelerar o desenvolvimento não é unanimidade. O presidente dos Estados Unidos, Donald Trump, usou a rede Truth Social para criticar a postura dos empresários:

“O único que está feliz com isso é a China”, escreveu o republicano em sua plataforma.

Na China, o chefe da inteligência do país também manifestou preocupação. No domingo, ele alertou que a IA pode ameaçar a segurança nacional, inclusive se potências estrangeiras utilizarem a tecnologia para desestabilizar o país.

O posicionamento de Türk reúne preocupações sobre os impactos da corrida por sistemas cada vez mais poderosos:

  • Ameaças aos direitos humanos, incluindo o direito à vida.
  • Riscos para as futuras gerações da humanidade.
  • Concentração das decisões sobre o desenvolvimento da IA em poucas empresas poderosas.
  • Necessidade de responsabilização dos principais desenvolvedores, principalmente nos Estados Unidos e na China.
Donald Trump
Donald Trump rejeitou a ideia de desacelerar a IA e afirmou que a China seria a única beneficiada com essa decisão. – Imagem: lev radin/Shutterstock

Poder concentrado no setor

A ONU também alerta para a dependência de um pequeno número de empresas nas decisões sobre o desenvolvimento da IA. Para Türk, essa concentração aumenta os riscos e exige que os principais desenvolvedores assumam responsabilidade.

Leia mais:

“Estamos à beira de uma mudança irreversível, que afeta não apenas a nós, mas também as futuras gerações da humanidade”, disse Türk em um comunicado.

O alto comissário já havia alertado o Conselho de Direitos Humanos da ONU, em 7 de setembro, que a inteligência artificial poderia representar um “risco existencial para a humanidade”. Agora, ele pede ação imediata para reduzir os riscos associados à tecnologia.

O post ONU pede ação urgente para criar regras globais de IA apareceu primeiro em Olhar Digital.

ONU pede ação urgente para criar regras globais de IA Read More »