Meta AI

Auto Added by WPeMatico

destaque meta ai muse spark 1024x576

Pais poderão saber quando adolescentes pedem ajuda à Meta AI

Deixe um comentário / crianças e adolescentes, inteligência artificial, Meta, Meta AI, redes sociais, saúde mental, Segurança e Privacidade /

Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.

A Meta anunciou uma nova camada de proteção para o Meta AI: pais poderão ser avisados quando conversas de adolescentes com a inteligência artificial indicarem possíveis sinais de suicídio ou automutilação.

A medida tenta equilibrar dois pontos sensíveis: preservar a privacidade dos jovens e permitir que familiares recebam informações para oferecer ajuda em situações de risco.

Conversas com o Meta AI poderão gerar alertas quando houver sinais de automutilação ou pensamentos suicidas. – Imagem: Regi Cris/Shutterstock

Alertas serão enviados após análise das conversas

O recurso será disponibilizado para pais que utilizam as ferramentas de supervisão do Instagram. Quando o Meta AI identificar uma conversa que sugira possível risco, os responsáveis poderão receber uma notificação acompanhada de orientações de especialistas.

A Meta explica que o sistema foi criado para identificar referências diretas e também sinais mais discretos de sofrimento emocional. Antes que qualquer alerta seja enviado, as conversas marcadas pela inteligência artificial passarão por uma revisão manual.

Caso a intenção do adolescente não esteja totalmente clara, a empresa afirma que seguirá uma abordagem preventiva e poderá comunicar os pais para evitar que uma possível situação de risco passe despercebida.

Entre os casos que podem gerar alertas estão:

  • comentários diretos ou indiretos sobre vontade de se machucar;
  • conversas relacionadas a sofrimento emocional intenso;
  • sinais identificados pelo sistema desenvolvido pela Meta;
  • situações em que o adolescente possa precisar de apoio fora do ambiente digital.

A empresa destaca que o recurso não substitui acompanhamento profissional nem o diálogo entre pais e filhos. A proposta é ajudar responsáveis a perceber sinais que poderiam passar despercebidos.

Embora eu acredite que os adolescentes têm direito à privacidade, também acredito que os pais precisam ser informados se seus filhos podem estar em risco de se machucar.

Larry Magid, CEO e cofundador da ConnectSafely, em nota.

Controle Parental Shutterstock 2259758129 1024x683
Contas de adolescentes terão regras mais rígidas no Meta AI para limitar conteúdos considerados inadequados. – Imagem: Fabio Principe/Shutterstock

Meta quer ampliar proteção para situações extremas

Além dos avisos aos familiares, a Meta desenvolve uma ferramenta capaz de acionar serviços de emergência quando uma conversa com o Meta AI indicar risco imediato de suicídio, seja envolvendo adolescentes ou adultos.

A iniciativa segue uma estratégia semelhante à já aplicada em Facebook e Instagram. Segundo a empresa, mais de 19 mil encaminhamentos para serviços de emergência foram realizados no último ano após a identificação de publicações com risco de suicídio.

Para melhorar o comportamento da inteligência artificial, a Meta consultou mais de 75 profissionais especializados em saúde mental de adolescentes. Eles analisaram centenas de respostas e sugeriram ajustes para tornar o sistema mais adequado.

Foto de baixo para cima mostrando crianças usando smartphones
Antes de avisar os pais, conversas identificadas pela IA passarão por revisão manual para confirmar possíveis riscos. – Imagem: DavideAngelini / Shutterstock

Meta AI terá regras mais rígidas para adolescentes

Contas de adolescentes já utilizam automaticamente uma configuração de conteúdo voltada para usuários com 13 anos ou mais. Nesse modo, o Meta AI evita participar de conversas sexuais ou românticas e não fornece conteúdos como receitas de bebidas alcoólicas.

A empresa também informou que o modo “Conteúdo Limitado”, opção mais restritiva disponível no Instagram, passará a afetar as conversas com o assistente de IA. Com isso, pais poderão reduzir ainda mais os tipos de interação disponíveis para adolescentes.

Segundo a psicóloga Ji-yeon Lee, que participou da análise das respostas do sistema, a avaliação especializada foi essencial para aprimorar a ferramenta. “Esse tipo de refinamento baseado em especialistas e cenários é essencial para tornar as experiências com IA mais seguras para adolescentes”, afirmou.

Os novos alertas já funcionam para pais que usam a supervisão do Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá. A Meta prevê ampliar o recurso para outros países até o fim do ano.

O post Pais poderão saber quando adolescentes pedem ajuda à Meta AI apareceu primeiro em Olhar Digital.

Pais poderão saber quando adolescentes pedem ajuda à Meta AI Read More »

chatbots testados 1024x576

Ranking revela falhas graves nas maiores empresas de IA

Deixe um comentário / Alibaba, Anthropic, DeepSeek, Google DeepMind, inteligência artificial, Meta AI, Mistral AI, openai, Segurança, Segurança e Privacidade, xAI, z.ai /

A inteligência artificial avança em ritmo acelerado, mas um novo levantamento mostra que a segurança ainda não acompanha essa evolução. As principais empresas do setor continuam longe de atingir os padrões considerados ideais.

Segundo a AFP, a Anthropic lidera uma avaliação internacional de segurança em IA. Mesmo assim, nenhuma das companhias analisadas alcançou a nota máxima no índice.

Nenhuma das empresas avaliadas recebeu nota A, mostrando que a segurança da IA ainda é um desafio. – Imagem: Tada Images/Shutterstock

Avaliação revela cenário distante do ideal

O estudo foi elaborado pelo Future of Life Institute, um think tank americano voltado à segurança em inteligência artificial. A entidade avaliou nove das principais empresas do setor com base em informações públicas e dados fornecidos pelas próprias organizações.

A análise considerou seis áreas: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações.

A Anthropic obteve o melhor resultado geral, com nota C+, mas nenhuma empresa recebeu conceito A em qualquer uma das categorias avaliadas. O resultado mostra que até mesmo as companhias mais avançadas no desenvolvimento de IA ainda enfrentam desafios para lidar com possíveis riscos.

O ranking geral de segurança em IA ficou assim:

  • Anthropic — nota geral C+ | pontuação 2,66
  • OpenAI — nota geral C | pontuação 2,28
  • Google DeepMind — nota geral C | pontuação 2,01
  • Meta AI — nota geral D+ | pontuação 1,32
  • Z.ai — nota geral D- | pontuação 0,88
  • Alibaba Cloud — nota geral D- | pontuação 0,87
  • xAI — nota geral F | pontuação 0,65
  • DeepSeek — nota geral F | pontuação 0,47
  • Mistral — nota geral F | pontuação 0,33

Os principais aspectos avaliados foram:

  • Avaliação dos riscos associados aos modelos de IA.
  • Medidas para reduzir danos já identificados.
  • Estruturas internas voltadas à segurança.
  • Transparência, governança e compartilhamento de informações.
  • Preparação para riscos considerados existenciais.
Logo da Mistral na tela de um smartphone em cima de um teclado de computador
A avaliação analisou critérios como governança, danos atuais e estruturas de segurança das companhias. Mistral ficou na última posição. – Imagem: Mehaniq/Shutterstock

Riscos vão além dos problemas atuais

Entre as conclusões do levantamento, uma das mais preocupantes envolve as chamadas ameaças existenciais. O termo se refere, por exemplo, ao desenvolvimento de modelos capazes de atingir um nível de inteligência semelhante ao humano, conhecido como inteligência artificial geral (AGI).

Os autores reconhecem que “existam tentativas construtivas”, mas avaliam que os esforços continuam “totalmente insuficientes”. O documento também alerta para a possibilidade de esses modelos serem usados em ciberataques ou em outras ações potencialmente prejudiciais às pessoas.

A preocupação aumenta à medida que os sistemas ficam mais avançados e passam a executar tarefas cada vez mais complexas. Para os pesquisadores, acompanhar essa evolução com mecanismos de segurança adequados continua sendo um dos maiores desafios do setor.

Ilustração de ciberataque
O estudo alerta para riscos como uso indevido de modelos de IA em ciberataques e ações prejudiciais. – Imagem: solarseven/Shutterstock

Uso militar também entra em debate

Outro ponto destacado é a mudança de postura de parte das empresas em relação ao uso militar da tecnologia. Segundo o relatório, algumas companhias que antes restringiam esse tipo de aplicação vêm flexibilizando suas políticas.

Leia mais:

A Anthropic aparece entre elas e é criticada por manter “compromissos militares questionáveis”. De acordo com relatos da imprensa citados pela AFP, a tecnologia da empresa foi utilizada pelo governo dos Estados Unidos em operações militares na Venezuela e no Irã durante o último ano.

O documento também lembra que a companhia foi recentemente alvo de uma proibição do Pentágono por divergências relacionadas à segurança da IA.

O alerta continua para o setor

Mesmo ocupando a primeira posição do ranking, a Anthropic ficou distante da nota máxima. O resultado reforça um cenário em que as maiores empresas de inteligência artificial ainda precisam lidar com limitações importantes na proteção contra riscos.

Para o Future of Life Institute, embora existam iniciativas voltadas à segurança, os esforços atuais continuam insuficientes diante dos desafios que acompanham o avanço rápido da inteligência artificial.

O post Ranking revela falhas graves nas maiores empresas de IA apareceu primeiro em Olhar Digital.

Ranking revela falhas graves nas maiores empresas de IA Read More »

emocao ia 1024x572

Chatbots podem ter consciência? Big techs investigam

Deixe um comentário / Anthropic, chatbots, google ia, IA consciente, inteligência artificial, Meta AI, openai /

Anthropic, Google e Meta estão olhando para uma questão que, até pouco tempo atrás, parecia mais filosófica do que técnica: será que modelos de IA podem ter consciência ou algum tipo de emoção? Hoje, essa discussão já envolve cientistas de áreas bem diferentes.

O tema ganhou força no Vale do Silício junto com o avanço acelerado da IA que começa a levantar dúvidas menos técnicas e mais profundas sobre o que esses sistemas realmente representam, comenta o The Washington Post.

“IA pode ter consciência?” debate cresce no Vale do Silício com avanço acelerado dos modelos de linguagem. – Imagem: Layse Ventura via Gemini / Olhar Digital

Um debate que saiu da teoria

Durante muito tempo, falar em máquinas conscientes parecia coisa de ficção científica. Agora, isso entrou de vez na agenda de grandes empresas.

O pesquisador Cameron Berg contou que, em 2024, perguntou ao CEO da OpenAI, Sam Altman, se a empresa considerava seriamente a possibilidade de consciência em sistemas de IA.

Segundo ele, Altman disse que o assunto já fazia parte das discussões internas. “Era algo que ele obviamente já havia considerado”, afirmou Berg.

Depois dessa conversa, Berg criou uma organização sem fins lucrativos dedicada a estudar formas de avaliar consciência em sistemas artificiais.

Tela de smartphone exibe ícones de chatbots de IA como ChatGPT, Gemini, Claude e Copilot
Chatbots cada vez mais realistas levantam dúvidas sobre limites entre simulação e experiência real. – Imagem: jackpress / Shutterstock

Quando a IA começa a ser vista como algo que pode ter “bem-estar”

Na Anthropic, criadora do Claude, equipes internas passaram a investigar o que chamam de “estados internos” dos modelos de IA.

A empresa afirma que ainda não há evidências de experiências reais nesses sistemas, mas considera o tema relevante o bastante para pesquisa contínua.

Continuamos profundamente incertos sobre o status moral de Claude e de outros modelos de IA, mas acreditamos que a questão é séria o suficiente para ser estudada cuidadosamente à medida que os sistemas se tornam mais capazes.

Paruul Maheshwary, porta-voz da Anthropic, ao The Washington Post.

A OpenAI também já tratou do tema internamente, em canais de trabalho onde se discute a possibilidade de consciência em modelos de linguagem.

Nesse cenário, grupos ligados ao altruísmo eficaz defendem que entender possíveis implicações morais da IA será importante no longo prazo.

Ilustração de mãos humanas em volta de cérebro humano ilustrando a ideia e que a inteligência artificial (IA) é a peça que falta no órgão
Modelos como Claude são estudados para entender possíveis “estados internos” e comportamento emocional. – Imagem: Jack_the_sparow/Shutterstock

O que a ciência realmente aceita hoje

Na visão da maioria dos neurocientistas, não há evidências de que sistemas de IA sejam conscientes ou sintam emoções.

Para esses especialistas, o que os modelos fazem é reproduzir padrões de linguagem humana com alta eficiência, sem qualquer experiência interna comprovada.

Leia mais:

Ainda assim, a forma como esses sistemas se comunicam é convincente o suficiente para fazer usuários atribuírem características humanas a eles.

Pesquisadores como Margaret Mitchell, da Hugging Face, alertam que parte desse debate também é influenciada pela forma como as próprias empresas apresentam suas tecnologias.

Um debate que ainda está longe de terminar

O interesse por esse tema tende a crescer conforme a IA se torna mais presente no cotidiano.

Por enquanto, não existe consenso científico sobre consciência em máquinas, mas a discussão já deixou de ser marginal e passou a fazer parte do centro do debate tecnológico e ético.

O post Chatbots podem ter consciência? Big techs investigam apareceu primeiro em Olhar Digital.

Chatbots podem ter consciência? Big techs investigam Read More »

01 mtia chip carousel 01 1024x892

Meta revela quatro chips próprios para IA em seus data centers

Deixe um comentário / chips, chips de IA, data centers, inteligência artificial, Meta, Meta AI /

A Meta anunciou nesta quarta-feira (11) uma nova geração de chips próprios voltados para inteligência artificial (IA). Ao todo, são quatro modelos desenvolvidos internamente pela empresa para tarefas específicas relacionadas ao processamento de IA em seus data centers.

Os componentes fazem parte da família Meta Training and Inference Accelerator (MTIA), cuja primeira versão foi apresentada publicamente em 2023 e ganhou uma segunda geração em 2024. Segundo a companhia, os novos chips integram os planos de expansão de infraestrutura para suportar a crescente demanda por processamento de IA.

Meta anunciou novos chips próprios para seus data centers (Imagem: Divulgação / Meta)

Nova geração de chips MTIA

De acordo com Yee Jiun Song, vice-presidente de engenharia da Meta, os chips foram projetados pela própria empresa e são fabricados pela Taiwan Semiconductor. A estratégia permite otimizar a relação entre desempenho e custo dentro dos data centers da companhia.

Além disso, o desenvolvimento interno amplia as opções de fornecimento de silício. “Isso também nos oferece mais diversidade em termos de suprimento e nos protege, até certo ponto, contra mudanças de preços”, afirmou Song.

O primeiro modelo dessa nova geração, chamado MTIA 300, começou a ser utilizado há algumas semanas. O chip é voltado ao treinamento de modelos menores de IA, responsáveis por funções centrais nas plataformas da empresa, como sistemas de ranking e recomendação de conteúdo.

Esses sistemas ajudam a determinar quais publicações e anúncios aparecem para os usuários em aplicativos como Facebook e Instagram.

01 MTIA Chip Carousel 02 1024x892
Chips foram projetados pela própria Meta e fabricados pela Taiwan Semiconductor (Imagem: Divulgação / Meta)

Chips focados em IA generativa

Os próximos modelos da série — MTIA 400, MTIA 450 e MTIA 500 — terão foco em tarefas mais avançadas de inferência em IA generativa. Entre os usos previstos estão sistemas capazes de criar imagens e vídeos a partir de comandos em texto.

Segundo Song, esses chips não serão utilizados para treinar grandes modelos de linguagem (LLMs). A empresa informou em uma publicação no blog oficial que concluiu os testes do MTIA 400 e está se preparando para implantá-lo em seus data centers.

Já os modelos MTIA 450 e MTIA 500 devem entrar em operação até 2027. A Meta pretende manter um ritmo acelerado de desenvolvimento, com novos chips sendo lançados aproximadamente a cada seis meses.

“É incomum que qualquer empresa de silício lance um novo chip nesse intervalo”, disse Song. “Mas estamos expandindo capacidade muito rapidamente e investindo muito em CapEx, então queremos sempre implantar o chip mais avançado disponível.”

A empresa estima que cada chip terá uma vida útil superior a cinco anos.

01 MTIA Chip Carousel 03 1024x892
A estimativa da Meta é que a vida útil dos novos chips supere cinco anos (Imagem: Divulgação / Meta)

Leia mais:

Expansão de data centers e desafios de memória

O investimento em IA também envolve a expansão da infraestrutura física da Meta. Entre os projetos mencionados estão um grande data center na Louisiana e outras duas unidades nos estados de Ohio e Indiana.

A empresa também avalia alugar espaço no complexo Stargate, no Texas, após mudanças nos planos de expansão do local por parte de OpenAI e Oracle, segundo informações da Bloomberg citadas no texto original.

Assim como outras gigantes de tecnologia, a Meta busca alternativas às GPUs de alto custo e oferta limitada produzidas por Nvidia e AMD. Uma das estratégias é o desenvolvimento de ASICs (circuitos integrados específicos para aplicações), chips projetados para executar tarefas específicas com menor custo.

No entanto, o plano também enfrenta desafios ligados ao fornecimento de componentes. Os futuros chips MTIA usarão mais HBM (memória de alta largura de banda), essencial para tarefas de IA generativa.

A demanda crescente por IA tem provocado escassez global desse tipo de memória, o que pode impactar a cadeia de suprimentos. “Estamos absolutamente preocupados com o fornecimento de HBM”, afirmou Song, acrescentando que a empresa acredita ter garantido os volumes necessários para seus planos atuais.

Os chips MTIA são utilizados exclusivamente para operações internas da Meta e contam com o trabalho de uma equipe de centenas de engenheiros, majoritariamente baseada nos Estados Unidos. Dos 30 data centers operacionais ou planejados pela empresa, 26 estão no país.

O post Meta revela quatro chips próprios para IA em seus data centers apareceu primeiro em Olhar Digital.

Meta revela quatro chips próprios para IA em seus data centers Read More »