saúde mental

Auto Added by WPeMatico

destaque meta ai muse spark 1024x576

Pais poderão saber quando adolescentes pedem ajuda à Meta AI

Deixe um comentário / crianças e adolescentes, inteligência artificial, Meta, Meta AI, redes sociais, saúde mental, Segurança e Privacidade /

Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.

A Meta anunciou uma nova camada de proteção para o Meta AI: pais poderão ser avisados quando conversas de adolescentes com a inteligência artificial indicarem possíveis sinais de suicídio ou automutilação.

A medida tenta equilibrar dois pontos sensíveis: preservar a privacidade dos jovens e permitir que familiares recebam informações para oferecer ajuda em situações de risco.

Conversas com o Meta AI poderão gerar alertas quando houver sinais de automutilação ou pensamentos suicidas. – Imagem: Regi Cris/Shutterstock

Alertas serão enviados após análise das conversas

O recurso será disponibilizado para pais que utilizam as ferramentas de supervisão do Instagram. Quando o Meta AI identificar uma conversa que sugira possível risco, os responsáveis poderão receber uma notificação acompanhada de orientações de especialistas.

A Meta explica que o sistema foi criado para identificar referências diretas e também sinais mais discretos de sofrimento emocional. Antes que qualquer alerta seja enviado, as conversas marcadas pela inteligência artificial passarão por uma revisão manual.

Caso a intenção do adolescente não esteja totalmente clara, a empresa afirma que seguirá uma abordagem preventiva e poderá comunicar os pais para evitar que uma possível situação de risco passe despercebida.

Entre os casos que podem gerar alertas estão:

  • comentários diretos ou indiretos sobre vontade de se machucar;
  • conversas relacionadas a sofrimento emocional intenso;
  • sinais identificados pelo sistema desenvolvido pela Meta;
  • situações em que o adolescente possa precisar de apoio fora do ambiente digital.

A empresa destaca que o recurso não substitui acompanhamento profissional nem o diálogo entre pais e filhos. A proposta é ajudar responsáveis a perceber sinais que poderiam passar despercebidos.

Embora eu acredite que os adolescentes têm direito à privacidade, também acredito que os pais precisam ser informados se seus filhos podem estar em risco de se machucar.

Larry Magid, CEO e cofundador da ConnectSafely, em nota.

Controle Parental Shutterstock 2259758129 1024x683
Contas de adolescentes terão regras mais rígidas no Meta AI para limitar conteúdos considerados inadequados. – Imagem: Fabio Principe/Shutterstock

Meta quer ampliar proteção para situações extremas

Além dos avisos aos familiares, a Meta desenvolve uma ferramenta capaz de acionar serviços de emergência quando uma conversa com o Meta AI indicar risco imediato de suicídio, seja envolvendo adolescentes ou adultos.

A iniciativa segue uma estratégia semelhante à já aplicada em Facebook e Instagram. Segundo a empresa, mais de 19 mil encaminhamentos para serviços de emergência foram realizados no último ano após a identificação de publicações com risco de suicídio.

Para melhorar o comportamento da inteligência artificial, a Meta consultou mais de 75 profissionais especializados em saúde mental de adolescentes. Eles analisaram centenas de respostas e sugeriram ajustes para tornar o sistema mais adequado.

Foto de baixo para cima mostrando crianças usando smartphones
Antes de avisar os pais, conversas identificadas pela IA passarão por revisão manual para confirmar possíveis riscos. – Imagem: DavideAngelini / Shutterstock

Meta AI terá regras mais rígidas para adolescentes

Contas de adolescentes já utilizam automaticamente uma configuração de conteúdo voltada para usuários com 13 anos ou mais. Nesse modo, o Meta AI evita participar de conversas sexuais ou românticas e não fornece conteúdos como receitas de bebidas alcoólicas.

A empresa também informou que o modo “Conteúdo Limitado”, opção mais restritiva disponível no Instagram, passará a afetar as conversas com o assistente de IA. Com isso, pais poderão reduzir ainda mais os tipos de interação disponíveis para adolescentes.

Segundo a psicóloga Ji-yeon Lee, que participou da análise das respostas do sistema, a avaliação especializada foi essencial para aprimorar a ferramenta. “Esse tipo de refinamento baseado em especialistas e cenários é essencial para tornar as experiências com IA mais seguras para adolescentes”, afirmou.

Os novos alertas já funcionam para pais que usam a supervisão do Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá. A Meta prevê ampliar o recurso para outros países até o fim do ano.

O post Pais poderão saber quando adolescentes pedem ajuda à Meta AI apareceu primeiro em Olhar Digital.

Pais poderão saber quando adolescentes pedem ajuda à Meta AI Read More »

onu internet scaled e1771596530744 1024x577

ONU alerta que avanço acelerado da IA pode trazer consequências graves

Deixe um comentário / deepfake, inteligência artificial, onu, saúde mental, violência de gênero /

A inteligência artificial pode abrir caminho para avanços importantes em diversas áreas, mas o mesmo ritmo acelerado que impulsiona a tecnologia também amplia seus desafios. Essa é a principal conclusão do primeiro relatório científico independente sobre IA elaborado por um painel da ONU.

O documento será apresentado aos governos durante o Diálogo Global da ONU sobre governança de IA, marcado para os dias 6 e 7 de julho, em Genebra, revela a Reuters.

Segundo a ONU, governos ainda têm dificuldade para acompanhar a velocidade com que a inteligência artificial evolui. – Imagem: mr_tigga/Shutterstock

Ciência corre atrás da velocidade da IA

Produzido por 40 cientistas e especialistas independentes, o relatório afirma que a IA oferece benefícios relevantes para países e cidadãos. Em contrapartida, a compreensão científica e a capacidade de adaptação dos governos ainda não acompanham a velocidade com que os sistemas evoluem.

Segundo os autores, existem poucos métodos para controlar sistemas altamente autônomos, o que dificulta a criação de políticas capazes de acompanhar os avanços da tecnologia.

A ciência não pode garantir que a IA não causará danos catastróficos — seja por conta própria ou devido a usuários mal-intencionados.

Yoshua Bengio, copresidente do painel Diálogo Global da ONU sobre governança de IA, à Reuters.

Bengio destacou que já existem evidências crescentes de comportamentos enganosos apresentados por sistemas de IA.

Pinça pegando chip com desenho da bandeira dos Estados Unidos
Os EUA concentram 75% do poder computacional dos principais supercomputadores de IA; a China reúne outros 15%. – Imagem: William Potter/Shutterstock

Os riscos vão além da tecnologia

O documento destaca que os benefícios potenciais da IA são enormes. Ainda assim, alerta que a implementação rápida e sem controle pode gerar impactos relevantes em diferentes áreas da sociedade.

Entre os principais riscos apontados estão:

  • danos à saúde mental dos usuários;
  • uso da IA como ferramenta destrutiva;
  • impactos sobre sistemas sociais, econômicos e ambientais;
  • dificuldades para controlar sistemas altamente autônomos;
  • aumento da circulação de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfakes.

O próprio relatório resume esse cenário ao afirmar que “os benefícios potenciais da IA são enormes”, mas ressalta que a implementação rápida e sem controle da tecnologia em larga escala também apresenta riscos consideráveis para a saúde mental, os sistemas sociais, a economia, o meio ambiente e a capacidade de controlar esses sistemas.

A desigualdade no acesso preocupa

Mais de um bilhão de pessoas já utilizam ferramentas de IA conversacional semanalmente. Apesar desse crescimento, a adoção continua defasada nos países em desenvolvimento.

O relatório mostra ainda que os Estados Unidos concentram 75% do poder computacional entre os 500 principais supercomputadores de IA do mundo, enquanto a China reúne 15%.

Os especialistas também alertam que a IA facilita a produção e o direcionamento de conteúdo persuasivo em larga escala, favorecendo uma erosão gradual da integridade da informação, da confiança pública, da coesão social e da deliberação democrática.

Ferramentas de IA conseguem traduzir idiomas instantaneamente, mas pesquisadores afirmam que isso não elimina os benefícios do aprendizado linguístico. (Imagem: JOURNEY STUDIO7/Shutterstock)
A ONU destaca que milhares de idiomas ainda estão fora do treinamento da maioria dos modelos de inteligência artificial. – Imagem: JOURNEY STUDIO7/Shutterstock

Nem todos os países conseguem acompanhar

Outro desafio envolve a diversidade linguística. Embora mais de 7.000 idiomas sejam falados no planeta, apenas uma pequena parcela deles está presente no treinamento dos modelos atuais. Segundo o relatório, erros na tradução automática podem afetar diagnósticos de saúde e decisões de tratamento.

Leia mais:

O documento conclui que a maioria dos países, inclusive economias avançadas, ainda não possui capacidade técnica suficiente para avaliar os modelos mais sofisticados de inteligência artificial nem para participar de forma significativa de sua governança. Esse cenário reforça a necessidade de ampliar a cooperação internacional para acompanhar uma tecnologia que continua evoluindo em ritmo acelerado.

O post ONU alerta que avanço acelerado da IA pode trazer consequências graves apareceu primeiro em Olhar Digital.

ONU alerta que avanço acelerado da IA pode trazer consequências graves Read More »