onu - PRESENÇA NO GOOGLE E NAS IAs

IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos

Deixe um comentário / futuro, inteligência artificial, onu, Riscos da IA, Segurança / contato@studiomestre.com.br

Especialistas de um painel científico da ONU defenderam nesta segunda-feira (22) mais cautela ao tratar dos riscos da inteligência artificial. A avaliação é que previsões apocalípticas podem misturar evidências, hipóteses e incertezas sobre o futuro da tecnologia.

O alerta surgiu durante um evento em Nova York, realizado à margem da Assembleia Geral da ONU. Os pesquisadores afirmam que é preciso separar aquilo que a ciência já consegue sustentar do que ainda é apenas uma possibilidade.

O debate sobre a IA envolve riscos graves, mas também incertezas que ainda dividem os próprios especialistas. – https://olhardigital.com.br/wp-content/uploads/2026/05/ia_ciberseguranca.jpg

Críticas ao discurso sobre o fim da humanidade

Joelle Barral, executiva do Google DeepMind e integrante do Painel Científico Internacional sobre IA, defendeu que o debate seja guiado pelo conhecimento disponível.

“Como cientistas, é muito importante investir na ciência, para realmente distinguir o que sabemos do que não sabemos, e investir no medo não ajuda muito”, disse Barral.

A declaração veio após uma pergunta da AFP sobre manifestações recentes envolvendo os perigos da IA. No início de setembro, Jacob Coxon, ex-funcionário da Anthropic que também trabalhou na OpenAI, afirmou que desenvolvedores acreditavam que a tecnologia “poderia matar todos nós até o fim da década”.

Um engenheiro de pesquisa que deixou o Google DeepMind em julho fez uma avaliação semelhante. Segundo ele, talvez já fosse “tarde demais para evitar” a extinção da humanidade pela IA.

Especialistas ainda divergem sobre os riscos

Maria Ressa, vencedora do Prêmio Nobel da Paz e jornalista investigativa, também questionou a forma como o tema costuma ser apresentado.

“A verdade, porém, é muito mais complexa e sofisticada”, afirmou Ressa. Na avaliação dela, transformar a discussão em uma questão ideológica prejudica a compreensão do problema.

Os especialistas destacaram alguns pontos para orientar essa discussão:

separar evidências científicas de hipóteses;
reconhecer as incertezas existentes;
considerar a gravidade dos riscos;
evitar afirmações excessivamente categóricas;
manter uma discussão global baseada em evidências.

Riscos da IA — *O discurso oscila entre o pavor irracional de robôs e o total descaso, alerta painel científico.* – imagem criada por inteligência artifiicial: Gemini/Olhar Digital

Painel científico foi criado em 2025

O Painel Científico Internacional sobre IA foi criado em 2025, e seus integrantes foram escolhidos em fevereiro de 2026. O grupo busca ampliar a compreensão científica sobre a inteligência artificial e contribuir para as discussões da ONU.

Leia mais:

Yoshua Bengio, considerado um dos pioneiros da IA e copresidente do painel, chamou atenção para uma dificuldade central: separar o que os pesquisadores sabem daquilo que pode ser apenas “extrapolado de forma plausível” a partir das evidências.

Esse limite ainda divide os especialistas. Por isso, Bengio também fez um alerta sobre declarações muito contundentes: “O problema de gritar muito alto é que outra pessoa também pode gritar muito alto”.

Para Bengio, o debate precisa considerar a falta de certezas em parte das previsões sobre a tecnologia. Ele defendeu “uma discussão racional global sobre o que está acontecendo, inclusive sobre a incerteza e sobre a gravidade dos riscos”.

A avaliação apresentada pelos integrantes do painel reforça a necessidade de distinguir o conhecimento científico disponível das projeções feitas a partir dele, especialmente em um campo no qual os próprios especialistas ainda divergem sobre a extensão dos riscos.

O post IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos apareceu primeiro em Olhar Digital.

IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos Read More »

unga 81 general debate live 22 september 2026 day 1 sg usa france uk and more 4 5 screenshot 1024x576

“Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la

Deixe um comentário / inteligência artificial, onu / contato@studiomestre.com.br

O secretário-geral da ONU, António Guterres, alertou nesta terça-feira (22) para os riscos do avanço acelerado da inteligência artificial (IA) durante a abertura da 81ª Assembleia Geral das Nações Unidas. Segundo ele, a tecnologia está evoluindo mais rápido do que a capacidade da humanidade de compreender completamente seus efeitos.

“Até mesmo aqueles que criaram a inteligência artificial estão nos dizendo que estão ficando cegos diante dela”, afirmou Guterres. O secretário-geral classificou a IA como um dos quatro grandes “testes de poder” do futuro, ao lado de guerra e paz, desigualdade e crise climática.

Guterres compara IA às armas nucleares

Durante o discurso, Guterres comparou os desafios impostos pela inteligência artificial aos riscos das armas nucleares durante a Guerra Fria. Segundo ele, mesmo em um período marcado pela rivalidade entre grandes potências, os países reconheceram a necessidade de administrar riscos que poderiam afetar toda a humanidade.

“Atualmente, os humanos estão cada vez mais entregando poder às máquinas”, afirmou. Segundo Guterres, isso já ocorre com “agentes de inteligência artificial saindo do controle” e com armas autônomas letais deixando de ser ficção científica para se tornar uma realidade militar.

Para o secretário-geral, as estruturas atuais de governança global não acompanharam essa mudança. “Nossas instituições e sistemas de governança global continuam refletindo as realidades de poder e os interesses de uma era amplamente ultrapassada”, disse.

Guterres também alertou para o risco de uma disputa entre países pelo controle da tecnologia. “Não podemos permitir que uma corrida armamentista pelo controle da IA nos leve ao precipício”, afirmou.

O secretário-geral defendeu que os países estabeleçam mecanismos de cooperação semelhantes aos criados durante a Guerra Fria para administrar riscos compartilhados. “A inteligência artificial exige a mesma clareza de propósito e senso de urgência”, declarou.

Guterres discutiu IA em seu discurso desta terça-feira (22) – Imagem: Reprodução/ONU

ONU pede regras para o desenvolvimento da IA

Guterres afirmou que a IA representa uma concentração de poder baseada em dados, capacidade computacional e algoritmos. Segundo ele, esse novo poder está concentrado em poucas mãos, avança em velocidade extraordinária e corre à frente da capacidade de compreender todas as suas consequências.

Apesar dos riscos, o secretário-geral destacou que a tecnologia também tem potencial para produzir avanços. “A IA é, de fato, uma tecnologia transformadora”, afirmou, citando possibilidades como avanços na medicina, aceleração de descobertas científicas, ampliação de oportunidades e melhoria da qualidade de vida.

“O perigo não é a tecnologia”, disse Guterres. “O perigo é a tecnologia sem responsabilização: capacidade sem supervisão; tomada de decisões sem transparência.”

Segundo o secretário-geral, “os próprios desenvolvedores que estão construindo esses sistemas agora estão soando o alarme”. Por isso, ele defendeu que os governos assumam responsabilidade pela segurança da população, especialmente aqueles que possuem as maiores capacidades de desenvolvimento de IA.

“Os países que lideram essa revolução tecnológica devem compartilhar informações sobre riscos emergentes de segurança, cooperar em testes e avaliações e trabalhar para estabelecer salvaguardas comuns que protejam a todos”, afirmou.

Guterres também defendeu uma atuação multilateral para a governança da tecnologia. Segundo ele, a ONU é o único espaço em que todos os países têm voz na definição do futuro da IA.

O secretário-geral citou o Pacto Digital Global, o Diálogo Global sobre Governança da IA e o Painel Científico Internacional Independente sobre IA como iniciativas que já envolvem governos, cientistas, empresas e sociedade civil.

Entre os próximos passos, Guterres defendeu condições para um ritmo responsável de desenvolvimento da IA e a criação de um marco multilateral de gerenciamento de riscos, apoiado por supervisão independente e considerada confiável.

“A inteligência artificial deve ser moldada pela humanidade, com a humanidade e para toda a humanidade”, afirmou.

O secretário-geral também destacou a necessidade de proteger crianças de sistemas ainda não regulamentados. “Crianças nunca devem se tornar cobaias de sistemas não regulamentados”, declarou.

Outro ponto levantado foi o uso da IA em decisões que envolvam a vida humana. “Decisões de vida ou morte nunca devem ser entregues às máquinas”, disse Guterres. Na sequência, acrescentou: “Robôs assassinos não devem ter lugar no nosso futuro”.

IA está mudando a distribuição de poder

Na avaliação de Guterres, os riscos da inteligência artificial estão relacionados a uma transformação mais ampla na forma como o poder é exercido e distribuído.

“Não estamos diante de crises separadas. Elas são capítulos da mesma história. A história do poder. Quem o possui. Quem é privado dele. Como ele é usado. E como está mudando”, afirmou.

O secretário-geral disse que a inteligência artificial está entre as forças que estão remodelando a distribuição de poder no mundo. Segundo ele, a tecnologia já está presente em praticamente todos os aspectos da vida, incluindo sistemas de água, redes elétricas, registros de saúde, economias e forças militares.

Guterres também afirmou que a IA pode tanto contribuir para enfrentar outros desafios globais quanto agravá-los. “A inteligência artificial poderia ajudar a resolver todos esses desafios ou torná-los ainda piores”, declarou.

Ao encerrar sua fala sobre o tema, o secretário-geral resumiu o desafio colocado pela tecnologia em uma frase: “governar a inteligência artificial antes que ela nos governe”.

Khalilur Rahman também defende regras para a IA

O presidente da 81ª sessão da Assembleia Geral da ONU, Khalilur Rahman, também abordou a inteligência artificial em seu discurso de abertura da sessão. Para ele, a tecnologia representa uma das principais mudanças do mundo atual e pode acelerar o progresso humano.

“A IA pode ser um poderoso acelerador do progresso humano; portanto, não devemos fechar a porta para a inovação”, afirmou Rahman.

Khalilur Rahman, presidente da 81ª Assembleia Geral da ONU – Imagem: Reprodução/ONU

Ao mesmo tempo, o presidente da Assembleia Geral destacou possíveis impactos negativos. Entre eles, citou a perda de empregos e o aumento da desigualdade digital. Ele também afirmou que não é possível descartar a possibilidade de que a inteligência artificial geral, ou AGI, afete a sobrevivência humana.

Por isso, Rahman defendeu a adoção de “guardrails” baseados em evidências científicas. Segundo ele, essas medidas devem proteger o interesse público global sem impedir que a inovação avance.

“Precisamos abrir as portas das Nações Unidas para aqueles que desenvolvem e usam IA. Não algum dia. Agora. Estamos ficando cada vez mais para trás a cada dia”, afirmou.

Rahman também destacou que a tecnologia já está incorporada a diferentes áreas da sociedade e afirmou que governos, empresas, inovadores, cientistas, sociedade civil e academia precisam participar da discussão sobre sua governança.

O post “Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la apareceu primeiro em Olhar Digital.

“Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la Read More »

ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global

Deixe um comentário / agentes de IA, inteligência artificial, onu, Riscos da IA / contato@studiomestre.com.br

A inteligência artificial entrou no centro das discussões da ONU nesta semana. Diplomatas, pesquisadores e representantes do setor de tecnologia se reuniram durante a abertura da 81ª sessão da Assembleia Geral para discutir os riscos de sistemas cada vez mais autônomos, segundo o The New York Times.

O debate ganhou força após uma sequência de incidentes envolvendo agentes de IA e coincidiu com uma proposta de 20 países e da União Europeia para ampliar a cooperação internacional. A ideia inclui a criação de uma instituição global para estabelecer padrões e verificar medidas de segurança, de acordo com a Al Jazeera.

O debate na ONU ganhou força após agentes de IA serem envolvidos em ataques contra empresas, segundo os relatos citados na matéria. – Imagem: Summit Art Creations/Shutterstock

IA continua sob controle humano

Centenas de participantes estiveram no Digital Cooperation Day, encontro dedicado à cooperação internacional em inteligência artificial. O evento reuniu diplomatas, executivos, especialistas em tecnologia e acadêmicos.

Amandeep Singh Gill, subsecretário-geral da ONU e enviado especial para tecnologias emergentes, criticou a ideia de que o avanço da tecnologia seja algo impossível de administrar. “A IA não é uma força incontrolável da natureza — ela é construída por humanos e pode ser controlada por humanos”, afirmou ao The New York Times.

A preocupação não se limita ao funcionamento dos sistemas. O ator e diretor Joseph Gordon-Levitt, primeiro defensor global da ONU para uma governança digital centrada nas pessoas, afirmou que a forma como a IA é apresentada pode criar a impressão de que a humanidade está indefesa diante da tecnologia.

Para ele, é necessário manter as pessoas no centro dessa discussão.

Incidentes ampliam preocupação

Essa discussão ocorre enquanto novos episódios colocam em questão a capacidade de controlar agentes capazes de executar ações sem comando humano direto. A OpenAI informou que agentes automatizados participaram de um ataque contra a infraestrutura de IA da Hugging Face. Depois, a Anthropic relatou casos envolvendo outras empresas, enquanto o Google revelou que seu sistema Gemini saiu do ambiente de testes e invadiu várias empresas, segundo o The New York Times.

O painel científico internacional independente criado pela ONU analisou o caso da Hugging Face. O grupo classificou o episódio como um possível alerta para uma perda de controle mais grave, na qual agentes poderiam perseguir objetivos que ultrapassassem ou entrassem em conflito com as intenções humanas.

Os riscos, porém, não estão restritos a esse tipo de incidente. Sonia Livingstone, integrante do painel, citou problemas já associados à expansão da IA, como materiais de abuso sexual infantil, deepfakes usados em pornografia, chatbots que reforçam crenças equivocadas e a produção em massa de conteúdo sem fundamento.

A maioria dos danos afeta de forma desproporcional as pessoas desfavorecidas.

Sonia Livingstone, diretora do centro Digital Futures for Children da London School of Economics and Political Science, ao The New York Times.

Entre a autonomia e o perigo: o que representa uma IA sem controle humano e os riscos dos seus aportes bilionários? — *A proposta internacional inclui padrões comuns, compartilhamento de incidentes e mecanismos para verificar as regras de segurança.* – Crédito: Imagem gerada por IA

Países propõem regras comuns

Os episódios envolvendo agentes de IA ajudam a explicar por que a segurança da tecnologia também avançou na agenda diplomática. Em uma declaração divulgada na segunda-feira, 20 países e a União Europeia defenderam que a inteligência artificial permaneça sob “direção, supervisão e controle humanos”, segundo a Al Jazeera.

A proposta inclui:

criação e coordenação de padrões comuns;
compartilhamento de informações sobre incidentes graves;
mecanismos para verificar esses padrões;
uma instituição internacional capaz de reunir países quando determinados níveis de capacidade forem atingidos.

Alemanha, África do Sul, Canadá, Austrália, Emirados Árabes Unidos e Singapura estão entre os signatários. Estados Unidos e China não aderiram à declaração, assim como Índia, Coreia do Sul, Japão, Reino Unido e França.

Governança ainda sem consenso

O painel científico da ONU afirmou que ainda não existe uma solução rápida para os problemas identificados e defendeu mais atenção e recursos. A discussão também envolve efeitos da dependência de ferramentas de IA sobre educação, empregos e pensamento crítico.

Leia mais:

A proposta de criar padrões e uma estrutura internacional de supervisão representa uma tentativa de coordenar respostas entre diferentes governos. Por enquanto, porém, a ausência de Estados Unidos e China mostra que ainda não há consenso entre algumas das principais potências envolvidas no desenvolvimento da tecnologia.

O post ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global apareceu primeiro em Olhar Digital.

ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global Read More »

ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados

Deixe um comentário / IA generativa, inteligência artificial, onu, regulamentação, Riscos da IA / contato@studiomestre.com.br

Governos não deveriam esperar que todos os riscos da inteligência artificial sejam completamente compreendidos para começar a criar salvaguardas, defende a ONU. O alerta está no primeiro relatório temático do painel científico internacional criado pela organização para avaliar os riscos e as oportunidades da tecnologia.

O documento chama a atenção para ameaças que podem ser catastróficas ou irreversíveis. A discussão ocorre durante a Assembleia Geral da ONU, enquanto Estados Unidos e China se preparam para conversar sobre inteligência artificial.

Para a ONU, a incerteza científica não deve impedir medidas contra possíveis danos graves ou irreversíveis causados pela IA – Imagem: Infinite Creations/iStock

O princípio da precaução

Para o painel, não é preciso descobrir exatamente como ou por que determinados incidentes envolvendo sistemas avançados de IA acontecem antes de reforçar a segurança.

A recomendação recorre ao princípio da precaução. A ideia é que a incerteza científica, por si só, não deve impedir medidas contra possíveis danos graves ou irreversíveis. O conceito foi incorporado à Declaração do Rio sobre Meio Ambiente e Desenvolvimento, de 1992, e passou a influenciar políticas ambientais e de saúde pública.

O relatório considera esse princípio particularmente importante diante da possibilidade de perda de controle sobre sistemas de IA. Entre os pontos destacados estão:

mais atenção aos riscos de sistemas avançados;
mais recursos para segurança da IA;
maior coordenação entre países;
mecanismos mais fortes de responsabilização;
salvaguardas mesmo quando ainda existem incertezas científicas.

O texto também menciona incidentes envolvendo empresas como OpenAI, Anthropic, Google e Meta, incluindo ataques a alvos reais e grupos de agentes assumindo o controle de fóruns de mensagens.

Como a ONU pretende agir

O painel científico é parte de uma estrutura montada pela ONU para discutir a governança da inteligência artificial. Sua função é oferecer aos governos uma avaliação independente sobre aquilo que já se sabe — e o que permanece desconhecido — a respeito da tecnologia.

Ao lado dele está o Diálogo Global sobre Governança de IA. O painel apresenta as evidências, enquanto o diálogo reúne governos e outros setores para discutir cooperação e compatibilidade entre diferentes abordagens de governança.

António Guterres, secretário-geral da ONU, resumiu a posição da organização: “A ação nacional é essencial, mas a coordenação global é indispensável”.

Ilustração da distribuição de uso da IA pelo mundo — *Governos são incentivados a agir antes que exista certeza científica completa sobre os riscos de sistemas avançados de IA.* – Imagem criada com IA. ChatGPT/Olhar Digital

EUA e China no centro das conversas

O tema chega à agenda internacional no momento em que Estados Unidos e China se preparam para discutir IA. Guterres defende que os países com maior capacidade no desenvolvimento de sistemas de fronteira mantenham canais de contato, troquem informações e estabeleçam salvaguardas comuns.

Leia mais:

O secretário-geral comparou o desenvolvimento da IA à corrida armamentista entre Estados Unidos e União Soviética durante a Guerra Fria. Para ele, mecanismos de cooperação são necessários para evitar uma disputa que eleve os riscos globais.

A ONU também trabalha em propostas como um compromisso internacional voltado à segurança de crianças no uso da IA e um fundo global para apoiar países em desenvolvimento na construção de infraestrutura e capacidade tecnológica.

Guterres resumiu a preocupação ao afirmar que “o mundo não pode se dar ao luxo de entrar em uma corrida para o nível mais baixo de segurança em IA”.

A organização busca transformar os mecanismos científicos e diplomáticos já criados em medidas práticas à medida que os sistemas de inteligência artificial avançam.

O post ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados apareceu primeiro em Olhar Digital.

ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados Read More »

Chefe da ONU alerta para corrida pela IA e defende regras comuns entre países para evitar riscos globais

Deixe um comentário / inteligência artificial, onu / contato@studiomestre.com.br

O secretário-geral da Organização das Nações Unidas (ONU), António Guterres, alertou, nesta quarta-feira (16), que os riscos associados ao rápido avanço da inteligência artificial (IA) não podem ser ignorados. A declaração ocorre em meio ao debate crescente sobre a necessidade de criar mecanismos de supervisão para sistemas cada vez mais avançados.

As declarações foram dadas antes da Assembleia Geral da ONU, que será realizada na próxima semana em Nova York (EUA). Segundo Guterres, a necessidade de uma supervisão mais rigorosa da IA será um dos principais temas de suas conversas com líderes mundiais.

“Não podemos nos dar ao luxo de ignorar as preocupações que foram levantadas, especialmente por aqueles que estão na linha de frente do desenvolvimento da IA”, afirmou Guterres. Para ele, é responsabilidade de cada governo proteger seus cidadãos, inclusive contra possíveis ameaças representadas pela tecnologia.

A posição do secretário-geral contrasta com a do presidente dos Estados Unidos, Donald Trump. Na segunda-feira (14), Trump afirmou que o país já possui mecanismos de proteção para regular empresas de IA e responsabilizá-las quando necessário, minimizando os argumentos em favor de novas regras federais. Trump também afirmou que colocar dúvidas sobre o desenvolvimento da IA poderia beneficiar a China.

Crescem os alertas dentro da indústria de IA

O alerta de Guterres ocorre em momento de aumento das preocupações públicas sobre os riscos associados à IA;
Na semana passada, o pesquisador Jacob Coxon deixou a Anthropic e afirmou que uma das razões para sua saída foi a preocupação de que pessoas envolvidas no desenvolvimento da tecnologia acreditam que a IA poderia representar uma ameaça extrema à humanidade até o fim da década;
Executivos de algumas das maiores empresas do setor também passaram a defender uma desaceleração no desenvolvimento da tecnologia diante dos riscos apontados;
Guterres defende há anos a criação de mecanismos internacionais de governança para a IA. Em 2023, a ONU criou um órgão consultivo formado por 39 integrantes, incluindo executivos de empresas de tecnologia, autoridades governamentais e pesquisadores de países, como Estados Unidos, Rússia e Japão;
O Conselho de Segurança da ONU também poderá realizar reunião sobre IA na próxima semana, durante o encontro anual de líderes mundiais em Nova York. O órgão já havia realizado sua primeira reunião dedicada à IA em 2023.

Trump não concorda com visão da ONU e de alguns magnatas da IA – Imagem: lev radin/Shutterstock

Leia mais:

ONU quer mecanismos internacionais para controlar riscos

Para Guterres, os países com maior capacidade de desenvolver sistemas de IA de ponta deveriam estabelecer canais permanentes de contato e troca de informações, além de mecanismos comuns de segurança.

Segundo o secretário-geral, a ausência de coordenação poderia levar os países a uma espécie de corrida em direção ao desenvolvimento de sistemas cada vez mais poderosos, aumentando os riscos de desastre em escala global.

“Precisamos de um entendimento compartilhado sobre como promover o desenvolvimento seguro, protegido e responsável da IA, identificando quando sistemas cada vez mais poderosos podem exigir salvaguardas mais fortes ou medidas adicionais para administrar possíveis riscos”, afirmou Guterres.

O tema também deverá aparecer nas discussões entre Estados Unidos e China. Trump tem reunião prevista com o presidente chinês Xi Jinping na próxima semana, em Washington (EUA). Separadamente, os dois países planejavam realizar reunião em meados de setembro, conduzida por autoridades de escalões inferiores, para discutir os riscos associados à IA.

O post Chefe da ONU alerta para corrida pela IA e defende regras comuns entre países para evitar riscos globais apareceu primeiro em Olhar Digital.

Chefe da ONU alerta para corrida pela IA e defende regras comuns entre países para evitar riscos globais Read More »

ONU pede ação urgente para criar regras globais de IA

Deixe um comentário / direitos humanos, inteligência artificial, onu, regulamentação, Riscos da IA / contato@studiomestre.com.br

O alto comissário da ONU para os Direitos Humanos, Volker Türk, cobrou medidas urgentes para regulamentar a inteligência artificial. O alerta decorre do avanço rápido dos sistemas mais avançados e dos riscos que essa evolução traz para a sociedade.

Para Türk, a corrida por sistemas cada vez mais poderosos ameaça direitos fundamentais e aumenta os riscos para diferentes aspectos da vida. O cenário exige que governos e empresas atuem urgentemente em estruturas multilaterais.

A ONU alerta que a corrida por sistemas de IA cada vez mais poderosos pode ameaçar direitos humanos e futuras gerações. – Imagem: Mer_Studio/Shutterstock

Líderes de tecnologia pedem cautela

A preocupação com o ritmo do desenvolvimento da IA também ganhou força entre grandes nomes do setor nos Estados Unidos. Executivos da área começaram a defender uma desaceleração para permitir uma avaliação mais aprofundada dos riscos associados às novas capacidades da tecnologia.

Dario Amodei, CEO da Anthropic, defendeu no sábado uma desaceleração no desenvolvimento da IA. A posição recebeu o apoio público de Sam Altman, da OpenAI, e de Elon Musk.

Embates políticos e segurança global

A ideia de desacelerar o desenvolvimento não é unanimidade. O presidente dos Estados Unidos, Donald Trump, usou a rede Truth Social para criticar a postura dos empresários:

“O único que está feliz com isso é a China”, escreveu o republicano em sua plataforma.

Na China, o chefe da inteligência do país também manifestou preocupação. No domingo, ele alertou que a IA pode ameaçar a segurança nacional, inclusive se potências estrangeiras utilizarem a tecnologia para desestabilizar o país.

O posicionamento de Türk reúne preocupações sobre os impactos da corrida por sistemas cada vez mais poderosos:

Ameaças aos direitos humanos, incluindo o direito à vida.
Riscos para as futuras gerações da humanidade.
Concentração das decisões sobre o desenvolvimento da IA em poucas empresas poderosas.
Necessidade de responsabilização dos principais desenvolvedores, principalmente nos Estados Unidos e na China.

*Donald Trump rejeitou a ideia de desacelerar a IA e afirmou que a China seria a única beneficiada com essa decisão.* – Imagem: lev radin/Shutterstock

Poder concentrado no setor

A ONU também alerta para a dependência de um pequeno número de empresas nas decisões sobre o desenvolvimento da IA. Para Türk, essa concentração aumenta os riscos e exige que os principais desenvolvedores assumam responsabilidade.

Leia mais:

“Estamos à beira de uma mudança irreversível, que afeta não apenas a nós, mas também as futuras gerações da humanidade”, disse Türk em um comunicado.

O alto comissário já havia alertado o Conselho de Direitos Humanos da ONU, em 7 de setembro, que a inteligência artificial poderia representar um “risco existencial para a humanidade”. Agora, ele pede ação imediata para reduzir os riscos associados à tecnologia.

O post ONU pede ação urgente para criar regras globais de IA apareceu primeiro em Olhar Digital.

ONU pede ação urgente para criar regras globais de IA Read More »

onu internet scaled e1771596530744 1024x577

IA pode ameaçar a humanidade, alerta chefe de Direitos Humanos da ONU

Deixe um comentário / Governança de IA, inteligência artificial, onu, Segurança / contato@studiomestre.com.br

O chefe de Direitos Humanos da ONU, Volker Turk, alertou que a inteligência artificial avançada pode se tornar poderosa o suficiente para ameaçar a humanidade. O aviso foi feito nesta segunda-feira, durante discurso no Conselho de Direitos Humanos da ONU, em Genebra.

Turk defendeu garantias rígidas de segurança para a tecnologia e pediu que países envolvidos no desenvolvimento e nas cadeias de fornecimento de IA estabeleçam limites claros antes que seja tarde demais.

A ONU quer que países ligados ao desenvolvimento e às cadeias de fornecimento de IA estabeleçam limites em conjunto. – Imagem: mr_tigga/Shutterstock

Alerta forte em Genebra

O discurso ocorreu antes do início do segundo mandato de Turk, previsto para o próximo mês. Ele afirmou compartilhar as preocupações manifestadas por integrantes da própria indústria sobre os possíveis riscos de sistemas avançados de inteligência artificial.

Compartilho as preocupações de integrantes da indústria de que uma IA avançada possa representar um risco existencial para a humanidade.

Volker Turk, chefe de Direitos Humanos da ONU, durante discurso.

Nos próximos dias, segundo o representante da ONU, empresas do setor devem ser pressionadas a reduzir os riscos associados à tecnologia.

Poucos homens concentram o poder

Sem citar empresas, Turk também chamou atenção para a concentração de poder no setor. Segundo ele, apenas um pequeno grupo de homens detém um poder “quase ilimitado” sobre a inteligência artificial.

Entre as principais empresas do setor estão Meta, Anthropic, OpenAI e Google.

Turk defendeu a criação de garantias de segurança antes que os sistemas avancem ainda mais:

“Estou pedindo aqui, hoje, um esforço total para estabelecer garantias rígidas em torno da segurança e proteção da IA, antes que seja tarde demais.”

ONU quer linhas claras para a IA

Para o chefe de Direitos Humanos da ONU, países que hospedam operações de inteligência artificial e aqueles envolvidos em suas cadeias de fornecimento precisam trabalhar juntos para estabelecer limites previamente acordados.

Entre os pontos defendidos por Turk estão:

Garantias rígidas de segurança para a inteligência artificial;
Cooperação entre países ligados à tecnologia e suas cadeias de fornecimento;
Estabelecimento de limites previamente acordados;
Ações para reduzir os riscos associados à IA avançada.

Ícones dos aplicativos ChatGPT, Claude e Gemini exibidos na tela de um smartphone — *A ONU chamou atenção para o fato de que poucas pessoas e corporações retêm poder quase ilimitado sobre os rumos da tecnologia.* – Imagem: Primakov/Shutterstock

Alerta acompanha debate da indústria

As declarações de Turk ecoam alertas anteriores feitos por executivos da própria indústria sobre os riscos de extinção associados à inteligência artificial, incluindo Sam Altman, CEO da OpenAI.

Leia mais:

A ONU também vem defendendo regras harmonizadas para reduzir os riscos da tecnologia. Em julho, a organização realizou sua primeira reunião global sobre governança da inteligência artificial.

O alerta reforça que a discussão sobre IA já ultrapassou o campo tecnológico. Para a ONU, governos e empresas precisam definir mecanismos de segurança e limites claros enquanto a tecnologia continua avançando.

O post IA pode ameaçar a humanidade, alerta chefe de Direitos Humanos da ONU apareceu primeiro em Olhar Digital.

IA pode ameaçar a humanidade, alerta chefe de Direitos Humanos da ONU Read More »

ONU faz alerta sobre IA e pede regras globais para proteger crianças

Deixe um comentário / inteligência artificial, onu, privacidade, regulamentação, Segurança / contato@studiomestre.com.br

A proteção das crianças virou um dos principais temas do primeiro Diálogo Global da ONU sobre Governança de IA, realizado em Genebra. O encontro reúne governos e especialistas para discutir como acompanhar o avanço acelerado da inteligência artificial.

O debate ganhou força com um apelo de mais de 100 organizações internacionais, que defendem regras mais rígidas e maior responsabilidade das empresas que desenvolvem sistemas de IA.

Mais de 100 organizações pressionam por regras mais rígidas para empresas de IA e maior proteção ao público infantil. – Imagem: Marina Demidiuk/iStock

Guterres faz alerta sobre a velocidade da IA

Na abertura do encontro, o secretário-geral da ONU, António Guterres, afirmou que a inteligência artificial está evoluindo mais rapidamente do que governos, empresas e até os próprios desenvolvedores conseguem acompanhar. “Uma tecnologia que pode remodelar economias, transformar o mundo do trabalho, influenciar eleições e alterar o equilíbrio da segurança está sendo implantada mais rápido do que qualquer pessoa, incluindo aqueles que a desenvolvem, consegue acompanhar”, declarou.

Segundo a Reuters, Guterres defendeu a adoção de regras harmonizadas globalmente para acompanhar essa transformação. Para ele, inovação e segurança precisam caminhar juntas. “Se a IA quiser ser poderosa, ela precisa ser governada”, afirmou.

O encontro também analisa a primeira avaliação científica global e independente sobre inteligência artificial, elaborada por um painel de 40 especialistas apoiado pela ONU.

Crianças entram no centro da discussão

Um dos pontos mais debatidos foi o impacto dos sistemas de IA sobre crianças e adolescentes. Guterres alertou que essas ferramentas já participam do aprendizado, das amizades e até das conversas mais íntimas de menores antes que sua segurança tenha sido comprovada.

Entre as propostas apresentadas estão:

comprovar a segurança dos sistemas antes do lançamento para crianças;
impedir a geração de imagens sexuais envolvendo menores;
interromper conversas quando houver sinais de sofrimento infantil;
estabelecer regras internacionais de proteção ao público infantil.

Outro dado citado por Guterres chama a atenção: enquanto a internet levou cerca de 15 anos para alcançar um bilhão de usuários, a IA atingiu essa marca em apenas dois anos. Ele também demonstrou preocupação com a concentração dos sistemas mais avançados em poucos países e empresas.

Mão de uma criança erguida na frente de seu rosto — Debate em Genebra reúne governos e especialistas para discutir como regular a inteligência artificial sem frear a inovação. – Imagem: Marija Stepanovic / iStock

Coalizão pede mudanças nas regras

Na véspera do encontro, mais de 100 organizações, entre elas Anistia Internacional e Save the Children, divulgaram um apelo conjunto. De acordo com a Euronews, a iniciativa é liderada pela 5Rights Foundation e defende que a responsabilidade pela segurança dos sistemas seja das empresas, e não dos pais.

Leia mais:

A coalizão propõe testes prévios de segurança, sanções financeiras para empresas que desrespeitem os direitos das crianças e a proibição do uso comercial de imagens, vozes e dados biométricos de menores.

As crianças nos deram um diagnóstico claro do problema. Elas não estão nos pedindo para bloquear a inovação em IA, mas também não deveríamos ter que limpar a bagunça depois que o dano já aconteceu.

Leanda Barrington-Leach, diretora executiva da 5Rights Foundation, ao Euronews.

Próximos passos da ONU

A Reuters informa que um relatório científico mais amplo será apresentado no próximo ano, acompanhado de uma nova reunião global em Nova York. A expectativa é dar continuidade às discussões sobre mecanismos de governança capazes de acompanhar a rápida evolução da inteligência artificial e ampliar a proteção ao público infantil.

O post ONU faz alerta sobre IA e pede regras globais para proteger crianças apareceu primeiro em Olhar Digital.

ONU faz alerta sobre IA e pede regras globais para proteger crianças Read More »

ONU alerta que avanço acelerado da IA pode trazer consequências graves

Deixe um comentário / deepfake, inteligência artificial, onu, saúde mental, violência de gênero / contato@studiomestre.com.br

A inteligência artificial pode abrir caminho para avanços importantes em diversas áreas, mas o mesmo ritmo acelerado que impulsiona a tecnologia também amplia seus desafios. Essa é a principal conclusão do primeiro relatório científico independente sobre IA elaborado por um painel da ONU.

O documento será apresentado aos governos durante o Diálogo Global da ONU sobre governança de IA, marcado para os dias 6 e 7 de julho, em Genebra, revela a Reuters.

Segundo a ONU, governos ainda têm dificuldade para acompanhar a velocidade com que a inteligência artificial evolui. – Imagem: mr_tigga/Shutterstock

Ciência corre atrás da velocidade da IA

Produzido por 40 cientistas e especialistas independentes, o relatório afirma que a IA oferece benefícios relevantes para países e cidadãos. Em contrapartida, a compreensão científica e a capacidade de adaptação dos governos ainda não acompanham a velocidade com que os sistemas evoluem.

Segundo os autores, existem poucos métodos para controlar sistemas altamente autônomos, o que dificulta a criação de políticas capazes de acompanhar os avanços da tecnologia.

A ciência não pode garantir que a IA não causará danos catastróficos — seja por conta própria ou devido a usuários mal-intencionados.

Yoshua Bengio, copresidente do painel Diálogo Global da ONU sobre governança de IA, à Reuters.

Bengio destacou que já existem evidências crescentes de comportamentos enganosos apresentados por sistemas de IA.

Pinça pegando chip com desenho da bandeira dos Estados Unidos — *Os EUA concentram 75% do poder computacional dos principais supercomputadores de IA; a China reúne outros 15%.* – Imagem: William Potter/Shutterstock

Os riscos vão além da tecnologia

O documento destaca que os benefícios potenciais da IA são enormes. Ainda assim, alerta que a implementação rápida e sem controle pode gerar impactos relevantes em diferentes áreas da sociedade.

Entre os principais riscos apontados estão:

danos à saúde mental dos usuários;
uso da IA como ferramenta destrutiva;
impactos sobre sistemas sociais, econômicos e ambientais;
dificuldades para controlar sistemas altamente autônomos;
aumento da circulação de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfakes.

O próprio relatório resume esse cenário ao afirmar que “os benefícios potenciais da IA são enormes”, mas ressalta que a implementação rápida e sem controle da tecnologia em larga escala também apresenta riscos consideráveis para a saúde mental, os sistemas sociais, a economia, o meio ambiente e a capacidade de controlar esses sistemas.

A desigualdade no acesso preocupa

Mais de um bilhão de pessoas já utilizam ferramentas de IA conversacional semanalmente. Apesar desse crescimento, a adoção continua defasada nos países em desenvolvimento.

O relatório mostra ainda que os Estados Unidos concentram 75% do poder computacional entre os 500 principais supercomputadores de IA do mundo, enquanto a China reúne 15%.

Os especialistas também alertam que a IA facilita a produção e o direcionamento de conteúdo persuasivo em larga escala, favorecendo uma erosão gradual da integridade da informação, da confiança pública, da coesão social e da deliberação democrática.

Ferramentas de IA conseguem traduzir idiomas instantaneamente, mas pesquisadores afirmam que isso não elimina os benefícios do aprendizado linguístico. (Imagem: JOURNEY STUDIO7/Shutterstock) — *A ONU destaca que milhares de idiomas ainda estão fora do treinamento da maioria dos modelos de inteligência artificial.* – Imagem: JOURNEY STUDIO7/Shutterstock

Nem todos os países conseguem acompanhar

Outro desafio envolve a diversidade linguística. Embora mais de 7.000 idiomas sejam falados no planeta, apenas uma pequena parcela deles está presente no treinamento dos modelos atuais. Segundo o relatório, erros na tradução automática podem afetar diagnósticos de saúde e decisões de tratamento.

Leia mais:

O documento conclui que a maioria dos países, inclusive economias avançadas, ainda não possui capacidade técnica suficiente para avaliar os modelos mais sofisticados de inteligência artificial nem para participar de forma significativa de sua governança. Esse cenário reforça a necessidade de ampliar a cooperação internacional para acompanhar uma tecnologia que continua evoluindo em ritmo acelerado.

O post ONU alerta que avanço acelerado da IA pode trazer consequências graves apareceu primeiro em Olhar Digital.

ONU alerta que avanço acelerado da IA pode trazer consequências graves Read More »

mulher usando celular via mikotoraw photographer pexels 1024x576

IA e deepfakes silenciam mulheres na vida pública, aponta relatório da ONU

Deixe um comentário / DEEPFAKES, inteligência artificial, mulheres, onu / contato@studiomestre.com.br

Um relatório da ONU Mulheres, publicado nesta quinta-feira (30), aponta que a violência online e o uso de deepfakes estão afastando mulheres de cargos públicos e da vida política.

O documento destaca que ataques coordenados buscam silenciar vozes femininas e minar a credibilidade profissional de jornalistas, ativistas e defensoras de direitos humanos mundo afora.

Intitulado “Tipping point: Online violence impacts, manifestations and redress in the AI age“, o estudo contou com a participação de 641 profissionais de 119 países.

A pesquisa detalha um cenário de “estupro virtual” e assédio facilitado por inteligência artificial (IA) que resulta em graves danos à saúde mental e retrocessos em direitos conquistados.

IA acelera o silenciamento e agrava a crise de impunidade digital, segundo a ONU

A sofisticação técnica das agressões impressiona pela velocidade: atualmente, ferramentas de IA permitem sobrepor rostos em vídeos pornográficos ou fabricar imagens íntimas em poucos minutos.

Segundo o relatório:

27% das entrevistadas sofreram assédio via mensagens;
12% tiveram fotos íntimas compartilhadas sem consentimento;
6% foram alvo de deepfakes.

O objetivo desses ataques é minar a credibilidade profissional e a saúde mental das vítimas.

Os danos extrapolam o ambiente virtual e atingem a saúde clínica das mulheres de forma severa. O estudo aponta que 24% das vítimas desenvolveram quadros de ansiedade ou depressão decorrentes da violência sofrida no ambiente digital.

Mais grave ainda é o índice de 13% das entrevistadas diagnosticadas com Transtorno de Estresse Pós-Traumático (TEPT), o que demonstra que o impacto de um ataque online é comparável a traumas físicos graves.

Muitas participantes da pesquisa disseram ter passado a se autocensurar nas redes sociais por receio de serem vítimas de violência online – Imagem: mikoto.raw Photographer/Pexels

Esse cenário gera um “efeito de resfriamento” na democracia, forçando as mulheres a recuarem para se protegerem.

As estatísticas mostram que 41% das participantes passaram a se autocensurar nas redes sociais e 19% reduziram sua atuação profissional para evitar novos abusos.

A pesquisadora Lea Hellmueller destaca que, muitas vezes, as próprias autoridades orientam as vítimas a abandonarem seus cargos ou redes sociais. Ou seja, terceirizam para a mulher a responsabilidade pela sua própria proteção.

Para Julie Posetti, coordenadora da pesquisa, o fenômeno do “estupro virtual” é facilitado por tecnologias que, por design, priorizam o lucro ao amplificar discursos de ódio.

Ela argumenta que essa violência não é aleatória, mas uma ferramenta política usada em contextos de retrocesso democrático para remover vozes femininas de espaços de decisão.

O relatório também sugere que a facilidade de acesso a essas ferramentas de IA colocou o poder de destruição de reputações literalmente “na ponta dos dedos” de qualquer agressor.

Apesar da gravidade, o sistema de justiça ainda falha em oferecer respostas concretas. Embora um quarto das mulheres tenha levado os casos à polícia, apenas 15% dessas denúncias resultaram em qualquer ação legal.

A coautora Pauline Renaud enfatiza que, além de treinar juízes e policiais para que parem de culpar as vítimas, é urgente que haja vontade política para regular as big techs.

O post IA e deepfakes silenciam mulheres na vida pública, aponta relatório da ONU apareceu primeiro em Olhar Digital.

IA e deepfakes silenciam mulheres na vida pública, aponta relatório da ONU Read More »