onu

Auto Added by WPeMatico

adolescentes smartphone 1024x673

ONU faz alerta sobre IA e pede regras globais para proteger crianças

Deixe um comentário / inteligência artificial, onu, privacidade, regulamentação, Segurança /

A proteção das crianças virou um dos principais temas do primeiro Diálogo Global da ONU sobre Governança de IA, realizado em Genebra. O encontro reúne governos e especialistas para discutir como acompanhar o avanço acelerado da inteligência artificial.

O debate ganhou força com um apelo de mais de 100 organizações internacionais, que defendem regras mais rígidas e maior responsabilidade das empresas que desenvolvem sistemas de IA.

Mais de 100 organizações pressionam por regras mais rígidas para empresas de IA e maior proteção ao público infantil. – Imagem: Marina Demidiuk/iStock

Guterres faz alerta sobre a velocidade da IA

Na abertura do encontro, o secretário-geral da ONU, António Guterres, afirmou que a inteligência artificial está evoluindo mais rapidamente do que governos, empresas e até os próprios desenvolvedores conseguem acompanhar. “Uma tecnologia que pode remodelar economias, transformar o mundo do trabalho, influenciar eleições e alterar o equilíbrio da segurança está sendo implantada mais rápido do que qualquer pessoa, incluindo aqueles que a desenvolvem, consegue acompanhar”, declarou.

Segundo a Reuters, Guterres defendeu a adoção de regras harmonizadas globalmente para acompanhar essa transformação. Para ele, inovação e segurança precisam caminhar juntas. “Se a IA quiser ser poderosa, ela precisa ser governada”, afirmou.

O encontro também analisa a primeira avaliação científica global e independente sobre inteligência artificial, elaborada por um painel de 40 especialistas apoiado pela ONU.

Crianças entram no centro da discussão

Um dos pontos mais debatidos foi o impacto dos sistemas de IA sobre crianças e adolescentes. Guterres alertou que essas ferramentas já participam do aprendizado, das amizades e até das conversas mais íntimas de menores antes que sua segurança tenha sido comprovada.

Entre as propostas apresentadas estão:

  • comprovar a segurança dos sistemas antes do lançamento para crianças;
  • impedir a geração de imagens sexuais envolvendo menores;
  • interromper conversas quando houver sinais de sofrimento infantil;
  • estabelecer regras internacionais de proteção ao público infantil.

Outro dado citado por Guterres chama a atenção: enquanto a internet levou cerca de 15 anos para alcançar um bilhão de usuários, a IA atingiu essa marca em apenas dois anos. Ele também demonstrou preocupação com a concentração dos sistemas mais avançados em poucos países e empresas.

Mão de uma criança erguida na frente de seu rosto
Debate em Genebra reúne governos e especialistas para discutir como regular a inteligência artificial sem frear a inovação. – Imagem: Marija Stepanovic / iStock

Coalizão pede mudanças nas regras

Na véspera do encontro, mais de 100 organizações, entre elas Anistia Internacional e Save the Children, divulgaram um apelo conjunto. De acordo com a Euronews, a iniciativa é liderada pela 5Rights Foundation e defende que a responsabilidade pela segurança dos sistemas seja das empresas, e não dos pais.

Leia mais:

A coalizão propõe testes prévios de segurança, sanções financeiras para empresas que desrespeitem os direitos das crianças e a proibição do uso comercial de imagens, vozes e dados biométricos de menores.

As crianças nos deram um diagnóstico claro do problema. Elas não estão nos pedindo para bloquear a inovação em IA, mas também não deveríamos ter que limpar a bagunça depois que o dano já aconteceu.

Leanda Barrington-Leach, diretora executiva da 5Rights Foundation, ao Euronews.

Próximos passos da ONU

A Reuters informa que um relatório científico mais amplo será apresentado no próximo ano, acompanhado de uma nova reunião global em Nova York. A expectativa é dar continuidade às discussões sobre mecanismos de governança capazes de acompanhar a rápida evolução da inteligência artificial e ampliar a proteção ao público infantil.

O post ONU faz alerta sobre IA e pede regras globais para proteger crianças apareceu primeiro em Olhar Digital.

ONU faz alerta sobre IA e pede regras globais para proteger crianças Read More »

onu internet scaled e1771596530744 1024x577

ONU alerta que avanço acelerado da IA pode trazer consequências graves

Deixe um comentário / deepfake, inteligência artificial, onu, saúde mental, violência de gênero /

A inteligência artificial pode abrir caminho para avanços importantes em diversas áreas, mas o mesmo ritmo acelerado que impulsiona a tecnologia também amplia seus desafios. Essa é a principal conclusão do primeiro relatório científico independente sobre IA elaborado por um painel da ONU.

O documento será apresentado aos governos durante o Diálogo Global da ONU sobre governança de IA, marcado para os dias 6 e 7 de julho, em Genebra, revela a Reuters.

Segundo a ONU, governos ainda têm dificuldade para acompanhar a velocidade com que a inteligência artificial evolui. – Imagem: mr_tigga/Shutterstock

Ciência corre atrás da velocidade da IA

Produzido por 40 cientistas e especialistas independentes, o relatório afirma que a IA oferece benefícios relevantes para países e cidadãos. Em contrapartida, a compreensão científica e a capacidade de adaptação dos governos ainda não acompanham a velocidade com que os sistemas evoluem.

Segundo os autores, existem poucos métodos para controlar sistemas altamente autônomos, o que dificulta a criação de políticas capazes de acompanhar os avanços da tecnologia.

A ciência não pode garantir que a IA não causará danos catastróficos — seja por conta própria ou devido a usuários mal-intencionados.

Yoshua Bengio, copresidente do painel Diálogo Global da ONU sobre governança de IA, à Reuters.

Bengio destacou que já existem evidências crescentes de comportamentos enganosos apresentados por sistemas de IA.

Pinça pegando chip com desenho da bandeira dos Estados Unidos
Os EUA concentram 75% do poder computacional dos principais supercomputadores de IA; a China reúne outros 15%. – Imagem: William Potter/Shutterstock

Os riscos vão além da tecnologia

O documento destaca que os benefícios potenciais da IA são enormes. Ainda assim, alerta que a implementação rápida e sem controle pode gerar impactos relevantes em diferentes áreas da sociedade.

Entre os principais riscos apontados estão:

  • danos à saúde mental dos usuários;
  • uso da IA como ferramenta destrutiva;
  • impactos sobre sistemas sociais, econômicos e ambientais;
  • dificuldades para controlar sistemas altamente autônomos;
  • aumento da circulação de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfakes.

O próprio relatório resume esse cenário ao afirmar que “os benefícios potenciais da IA são enormes”, mas ressalta que a implementação rápida e sem controle da tecnologia em larga escala também apresenta riscos consideráveis para a saúde mental, os sistemas sociais, a economia, o meio ambiente e a capacidade de controlar esses sistemas.

A desigualdade no acesso preocupa

Mais de um bilhão de pessoas já utilizam ferramentas de IA conversacional semanalmente. Apesar desse crescimento, a adoção continua defasada nos países em desenvolvimento.

O relatório mostra ainda que os Estados Unidos concentram 75% do poder computacional entre os 500 principais supercomputadores de IA do mundo, enquanto a China reúne 15%.

Os especialistas também alertam que a IA facilita a produção e o direcionamento de conteúdo persuasivo em larga escala, favorecendo uma erosão gradual da integridade da informação, da confiança pública, da coesão social e da deliberação democrática.

Ferramentas de IA conseguem traduzir idiomas instantaneamente, mas pesquisadores afirmam que isso não elimina os benefícios do aprendizado linguístico. (Imagem: JOURNEY STUDIO7/Shutterstock)
A ONU destaca que milhares de idiomas ainda estão fora do treinamento da maioria dos modelos de inteligência artificial. – Imagem: JOURNEY STUDIO7/Shutterstock

Nem todos os países conseguem acompanhar

Outro desafio envolve a diversidade linguística. Embora mais de 7.000 idiomas sejam falados no planeta, apenas uma pequena parcela deles está presente no treinamento dos modelos atuais. Segundo o relatório, erros na tradução automática podem afetar diagnósticos de saúde e decisões de tratamento.

Leia mais:

O documento conclui que a maioria dos países, inclusive economias avançadas, ainda não possui capacidade técnica suficiente para avaliar os modelos mais sofisticados de inteligência artificial nem para participar de forma significativa de sua governança. Esse cenário reforça a necessidade de ampliar a cooperação internacional para acompanhar uma tecnologia que continua evoluindo em ritmo acelerado.

O post ONU alerta que avanço acelerado da IA pode trazer consequências graves apareceu primeiro em Olhar Digital.

ONU alerta que avanço acelerado da IA pode trazer consequências graves Read More »

mulher usando celular via mikotoraw photographer pexels 1024x576

IA e deepfakes silenciam mulheres na vida pública, aponta relatório da ONU

Deixe um comentário / DEEPFAKES, inteligência artificial, mulheres, onu /

Um relatório da ONU Mulheres, publicado nesta quinta-feira (30), aponta que a violência online e o uso de deepfakes estão afastando mulheres de cargos públicos e da vida política. 

O documento destaca que ataques coordenados buscam silenciar vozes femininas e minar a credibilidade profissional de jornalistas, ativistas e defensoras de direitos humanos mundo afora.

Intitulado “Tipping point: Online violence impacts, manifestations and redress in the AI age“, o estudo contou com a participação de 641 profissionais de 119 países. 

A pesquisa detalha um cenário de “estupro virtual” e assédio facilitado por inteligência artificial (IA) que resulta em graves danos à saúde mental e retrocessos em direitos conquistados.

IA acelera o silenciamento e agrava a crise de impunidade digital, segundo a ONU

A sofisticação técnica das agressões impressiona pela velocidade: atualmente, ferramentas de IA permitem sobrepor rostos em vídeos pornográficos ou fabricar imagens íntimas em poucos minutos. 

Segundo o relatório:

  • 27% das entrevistadas sofreram assédio via mensagens;
  • 12% tiveram fotos íntimas compartilhadas sem consentimento;
  • 6% foram alvo de deepfakes. 

O objetivo desses ataques é minar a credibilidade profissional e a saúde mental das vítimas.

Os danos extrapolam o ambiente virtual e atingem a saúde clínica das mulheres de forma severa. O estudo aponta que 24% das vítimas desenvolveram quadros de ansiedade ou depressão decorrentes da violência sofrida no ambiente digital. 

Mais grave ainda é o índice de 13% das entrevistadas diagnosticadas com Transtorno de Estresse Pós-Traumático (TEPT), o que demonstra que o impacto de um ataque online é comparável a traumas físicos graves.

Muitas participantes da pesquisa disseram ter passado a se autocensurar nas redes sociais por receio de serem vítimas de violência online – Imagem: mikoto.raw Photographer/Pexels

Esse cenário gera um “efeito de resfriamento” na democracia, forçando as mulheres a recuarem para se protegerem. 

As estatísticas mostram que 41% das participantes passaram a se autocensurar nas redes sociais e 19% reduziram sua atuação profissional para evitar novos abusos. 

A pesquisadora Lea Hellmueller destaca que, muitas vezes, as próprias autoridades orientam as vítimas a abandonarem seus cargos ou redes sociais. Ou seja, terceirizam para a mulher a responsabilidade pela sua própria proteção.

Para Julie Posetti, coordenadora da pesquisa, o fenômeno do “estupro virtual” é facilitado por tecnologias que, por design, priorizam o lucro ao amplificar discursos de ódio. 

Ela argumenta que essa violência não é aleatória, mas uma ferramenta política usada em contextos de retrocesso democrático para remover vozes femininas de espaços de decisão. 

O relatório também sugere que a facilidade de acesso a essas ferramentas de IA colocou o poder de destruição de reputações literalmente “na ponta dos dedos” de qualquer agressor.

Apesar da gravidade, o sistema de justiça ainda falha em oferecer respostas concretas. Embora um quarto das mulheres tenha levado os casos à polícia, apenas 15% dessas denúncias resultaram em qualquer ação legal. 

A coautora Pauline Renaud enfatiza que, além de treinar juízes e policiais para que parem de culpar as vítimas, é urgente que haja vontade política para regular as big techs.

O post IA e deepfakes silenciam mulheres na vida pública, aponta relatório da ONU apareceu primeiro em Olhar Digital.

IA e deepfakes silenciam mulheres na vida pública, aponta relatório da ONU Read More »