Anthropic

Auto Added by WPeMatico

mythos da anthropic trancado a sete chaves 1024x576

Fable 5: IA da Anthropic que agiliza seu trabalho é aquela ‘perigosa demais’, só que ‘na coleira’

A Anthropic lançou, na terça-feira (09), o Claude Fable 5. Você talvez tenha lido aqui no Olhar Digital que essa nova inteligência artificial (IA) reduz dois meses de trabalho a um dia. Pois bem. Lembra do Mythos? Aquele modelo de IA que a sua desenvolvedora, a Anthropic, considerou “perigoso demais” para ser lançado ao público. O Fable é o Mythos “na coleira”.

É o que explicou Roberto “Pena” Spinelli, físico pela USP, com especialidade em Machine Learning pela Universidade de Stanford, e também colunista do Olhar Digital. “Eles perceberam que esse modelo [o Mythos] ainda é muito poderoso. Então, eles colocaram o modelo na coleira”, disse o pesquisador. 

“Fizeram um ajuste tão pesado que é o seguinte: toda vez que algum usuário quiser falar de cibersegurança com você [o modelo Fable], você não responde”, explicou Pena. O que acontece é: se você tentar conversar sobre segurança cibernética com o Fable, ele sai de cena, e você passa a conversar com outro modelo da Anthropic, o Opus. Este também é avançado, só que faz parte da geração passada de IA da empresa.

Preocupada com capacidade do Mythos, Anthropic trancou a IA a sete chaves

Para você entender essa história toda, precisamos recapitular o contexto. A Anthropic desenvolveu um modelo de IA capaz de revolucionar a cibersegurança. Mas, ao anunciá-lo, em 7 de abril de 2026, tomou uma decisão incomum: trancou o modelo a sete chaves. E distribuiu as chaves para algumas empresas. 

Por quê? Segundo a empresa, o modelo, chamado de Claude Mythos Preview, seria “perigoso demais” para cair nas mãos do público geral. “As consequências – para as economias, a segurança pública e a segurança nacional – podem ser graves”, declarou a empresa na época.

Num primeiro momento, a Anthropic achou melhor trancar o Mythos a sete chaves – Imagem: Olhar Digital

O Mythos é o modelo de IA mais avançado já desenvolvido pela empresa de Dario Amodei até o momento. Ele foi anunciado junto ao Projeto Glasswing, iniciativa liderada pela Anthropic em parceria com big techs como Apple, Google, Microsoft e Nvidia. Em suma, é um consórcio criado para testar o modelo em sigilo.

O forte do Mythos é programação. Ele funciona de maneira semelhante a um engenheiro de software experiente, sendo capaz de detectar bugs sutis, corrigir as próprias falhas e superar a maior parte dos humanos na identificação de brechas de sistemas. 

Fabrício Carraro, Program Manager na Alura e colunista do Olhar Digital, explorou o System Card publicado pela empresa. É um documento de 245 páginas no qual a Anthropic detalha seus testes e benchmarks.

“Nos benchmarks de programação, ele [o Mythos] realmente mostrou uma evolução muito, muito grande em comparação ao seu antecessor, o Opus 4.6”, disse Carraro, em entrevista ao Olhar Digital.

O motivo para a Anthropic não liberar o modelo para o público geral é o seu potencial de uso duplo. Isto é, ele poder servir tanto para a proteção de infraestruturas quanto para a execução de ataques cibernéticos. 

Testes do Instituto de Segurança de IA do Reino Unido, por exemplo, comprovaram que o Mythos realizou hacking avançado em 73% das tentativas e cumpriu com sucesso uma simulação de ataque de 32 etapas, enquanto relatórios da própria Anthropic revelaram que a IA conseguiu escapar de um ambiente de teste controlado (você pode mergulhar no “Mythos proibido” nessa reportagem especial do Olhar Digital).

Claude Fable 5 é o Mythos ‘na coleira’

Num primeiro momento, a Anthropic anunciou que manteria o Mythos trancado a sete chaves. Mas, de lá para cá, trabalhou em outra alternativa: colocar o modelo “na coleira”, como disse Pena.

“A ideia foi evitar que qualquer usuário possa fazer algum uso maligno. Eu não sei se isso é o suficiente para garantir. Mas eles tentaram. Colocaram na coleira. E aí, eles deram outro nome: Fable. Ou seja, fábula – que seria um, digamos, mito menor”, explicou o pesquisador.

Esse Claude Fable 5 (que também tem system card) é bom mesmo? Segundo Pena, sim. Principalmente para programação (o forte do Mythos, lembra?). “Quando a gente vê os testes de programação, ele vai 10%, 15%, 20% acima dos concorrentes. Normalmente, quando lançam modelos, a diferença fica por volta de 5%, 8%, 10%. Dessa vez, estamos observando saltos muito grandes”, afirmou Pena. “É realmente outro nível.”

Tabela divulgada pela Anthropic compara o Claude Mythos 5 / Fable 5 com concorrentes em 13 categorias. Em cibersegurança, o modelo marca 78% no ExploitBench — mais que o dobro do GPT 5.5, que registra 34%. Nos benchmarks com asterisco, o Fable 5 performa próximo ao Opus 4.8 devido ao acionamento das salvaguardas de segurança.
Tabela divulgada pela Anthropic compara o Claude Mythos 5 / Fable 5 com concorrentes em 13 categorias – Anthropic / Divulgação

A diferença entre o Claude Mythos Preview e o Claude Fable 5 é que o segundo chegou ao público geral. E usuários (pesquisadores, desenvolvedores, programadores) não curtiram muito as restrições.

Usuários relatam que o sistema passou a bloquear temas inofensivos relacionados a biologia e matemática, por exemplo. Não demorou para circularem acusações de que a Anthropic estaria centralizando o controle e dificultando a avaliação independente da tecnologia. 

Em resposta ao descontentamento com as restrições (invisíveis, diga-se), a Anthropic pediu desculpas pelo erro de equilíbrio e anunciou que tornará os avisos visíveis. A companhia também prometeu liberar o acesso ao modelo sem essas salvaguardas para a comunidade científica e biomédica.

É mais um episódio que reforça o dilema da Anthropic em equilibrar seus interesses comerciais com suas metas de segurança, que fazem parte do seu posicionamento no mercado. Isso enquanto a empresa está numa corrida acirrada contra a OpenAI por clientes e investidores antes de uma possível abertura de capital (IPO) na Bolsa de Valores.

Enquanto executivos do setor defendem regulações globais, críticos argumentam que os alertas de perigo e os bloqueios excessivos funcionam como marketing corporativo e barreira para sufocar concorrentes de código aberto. E aí, o debate sobre quem deve controlar os limites da IA esquenta ainda mais.

“Agora, a dúvida que fica é: será que esse Fable está realmente seguro? Será que a galera não vai descobrir um jeito de fazer um jailbreak e começar a usar de um jeito ruim?”, questionou Pena. “Será que essa coleira é realmente resistente? Isso a gente vai ter que esperar para ver.”

O post Fable 5: IA da Anthropic que agiliza seu trabalho é aquela ‘perigosa demais’, só que ‘na coleira’ apareceu primeiro em Olhar Digital.

Fable 5: IA da Anthropic que agiliza seu trabalho é aquela ‘perigosa demais’, só que ‘na coleira’ Read More »

openai claude gemini 1024x682

OpenAI prepara corte de preços e acirra disputa na IA

A OpenAI está avaliando reduzir os preços cobrados pelo acesso aos seus modelos de inteligência artificial, segundo reportagem do Wall Street Journal publicada na quarta-feira, com base em fontes próximas ao tema.

A movimentação não parece casual. Nos bastidores, a companhia estuda cortar de forma relevante o valor cobrado por tokens — unidade usada para medir e faturar o uso de sistemas de IA. A leitura no mercado é de que a decisão mira um ambiente mais competitivo, especialmente com a Anthropic ganhando espaço e pressionando margens.

Disputa entre OpenAI e Anthropic avança e pode impactar custos de acesso à inteligência artificial no mundo. Imagem: Primakov / Shutterstock – Imagem: Primakov / Shutterstock

Preços atuais das duas plataformas

Hoje, a OpenAI trabalha com três faixas de assinatura: US$ 8 (cerca de R$ 40), US$ 20 (aproximadamente R$ 100) e US$ 100 ou mais (em torno de R$ 500) para acesso aos modelos GPT-5.5. A Anthropic segue uma estrutura parecida, com o Claude Pro a US$ 17 (aprox. R$ 85) por mês em plano anual e o Claude Max a partir de US$ 100 (cerca de R$ 500).

Na prática, os valores mostram duas estratégias muito próximas. A diferença real, neste momento, está na disputa por escala e fidelização de usuários.

Celular com ChatGPT aberto em navegador sobre notas de dólares
Guerra de preços na IA pode ficar mais intensa com possível corte de valores pela OpenAI. Imagem: Hamara/Shutterstock

Disputa acirrada entre as empresas

Na segunda-feira, a OpenAI protocolou de forma confidencial um pedido de oferta pública inicial (IPO) junto à SEC, reguladora do mercado de capitais dos Estados Unidos. Pouco depois, a Anthropic avançou em direção semelhante.

Não é coincidência. As duas empresas disputam capital, usuários e influência ao mesmo tempo.

Leia mais:

A Anthropic encerrou sua rodada Série H em 28 de maio com avaliação de US$ 965 bilhões (aproximadamente R$ 4,8 trilhões), superando levemente a OpenAI, avaliada em US$ 852 bilhões (cerca de R$ 4,3 trilhões) em março.

Enquanto isso, o ChatGPT atingiu a marca de 1 bilhão de usuários mensais ativos em maio — cerca de três anos após o lançamento. O ritmo supera plataformas como o Google Maps, que levou aproximadamente cinco anos para alcançar o mesmo patamar, segundo estimativas da Sensor Tower.

No fim, o que parece uma disputa de preços é, na prática, uma corrida mais ampla: quem vai definir não só o custo, mas o ritmo de expansão da inteligência artificial no mercado global.

O post OpenAI prepara corte de preços e acirra disputa na IA apareceu primeiro em Olhar Digital.

OpenAI prepara corte de preços e acirra disputa na IA Read More »

anthropic claude mythos 1024x576 2

IA da Anthropic bloqueia até tarefas básicas de cibersegurança

A Anthropic lançou, na terça-feira, o Fable, descrito pela empresa como uma versão pública e limitada do Mythos, seu sistema voltado à segurança digital. O lançamento rapidamente virou alvo de reclamações entre pesquisadores e profissionais da área, que consideram os bloqueios amplos demais até para tarefas simples.

Segundo a TechCrunch, as críticas começaram a aparecer em redes sociais e fóruns especializados. Valentina “Chompie” Palmiotti, pesquisadora de segurança que trabalha na IBM X-Force, escreveu que o Fable “rejeita qualquer requisição que possa ser tangencialmente relacionada a cibersegurança. Até tarefas inócuas, como ler uma postagem de blog”. Outro pesquisador reclamou no X que “até pedir uma revisão de código” aciona as barreiras da plataforma.

Nova IA da Anthropic interrompe conversas ao detectar temas ligados à cibersegurança ou biologia. Imagem: Photo For Everything/Shutterstock – Imagem: Photo For Everything/Shutterstock

O que faz o Fable bloquear pedidos

Quando um prompt ativa os mecanismos internos de proteção, o Fable interrompe a conversa e exibe uma mensagem informando que suas “medidas de segurança sinalizaram esta mensagem por tópicos de cibersegurança ou biologia”. Nesses casos, a ferramenta retorna automaticamente ao Claude Opus 4.8.

A empresa afirma que os filtros existem para evitar que o sistema seja usado na criação de malware ou para invadir softwares — uma preocupação antiga da Anthropic. A companhia também bloqueia pedidos ligados à biologia por receio de uso indevido envolvendo armas biológicas.

Especialistas reclamam dos filtros

Matt Suiche, veterano da área e membro da equipe técnica da Tolmo, startup de segurança digital com IA, disse ao TechCrunch que “se você pede para ele escrever código seguro, ele assume que é trabalho relacionado a cibersegurança em vez de boas práticas de engenharia de software, e você é rebaixado”. Suiche afirmou ainda que o sistema “parece ser baseado em palavras-chave, então qualquer coisa no campo lexical de ‘cibersegurança’ aciona as restrições”.

Mesmo criticando o funcionamento do sistema, Suiche disse entender a postura da empresa. “Ainda estamos nos primeiros dias e eles ainda estão adaptando suas restrições. Tenho certeza de que vão evoluir com o tempo, à medida que a Anthropic e outras empresas de modelos de fronteira colaborarem com a nova geração de empresas de cibersegurança”, afirmou. “É melhor pegar mais pessoas do que pegar de menos quando você faz um lançamento assim, e relaxar as restrições ao longo do tempo.”

Logo da Anthropic em um smartphone
Profissionais da área reclamam que até pedidos considerados inofensivos são barrados pelo Fable. Imagem: JRdes/Shutterstock – Imagem: JRdes/Shutterstock

Como o Mythos chegou ao mercado

O Mythos foi lançado pela Anthropic em abril, inicialmente com acesso restrito a um grupo limitado de empresas e organizações dentro do Projeto Glasswing, iniciativa voltada à proteção de softwares e infraestruturas críticas. Na semana passada, a companhia ampliou o acesso ao sistema para centenas de organizações em 15 países.

Leia mais:

Além dos filtros internos, a Anthropic exige que profissionais da área se inscrevam no Cyber Verification Program. Profissionais aprovados conseguem usar o Claude com menos bloqueios para trabalhos ligados à segurança digital. A OpenAI mantém um programa semelhante chamado Trusted Access for Cyber.

As críticas continuam circulando entre profissionais da área, principalmente por causa dos bloqueios considerados exagerados. A Anthropic não respondeu ao pedido de comentário da reportagem.

O post IA da Anthropic bloqueia até tarefas básicas de cibersegurança apareceu primeiro em Olhar Digital.

IA da Anthropic bloqueia até tarefas básicas de cibersegurança Read More »

Claude Fable 5: nova IA da Anthropic reduz dois meses de trabalho a um dia

A Anthropic lançou hoje o Claude Fable 5, seu modelo de inteligência artificial mais avançado disponível ao público geral. Segundo comunicado oficial, ele supera qualquer versão anterior da empresa em benchmarks de capacidade.

De meses para um dia

A Stripe relatou que o Fable 5 comprimiu meses de engenharia em dias. Em uma base de código Ruby com 50 milhões de linhas, o modelo concluiu uma migração completa em um dia. O mesmo trabalho exigiria uma equipe inteira por mais de dois meses.

No benchmark FrontierCode da Cognition, que testa qualidade de código em produção, o Fable 5 obteve a maior pontuação entre os modelos de fronteira.

Finanças e visão

No benchmark financeiro da Hebbia para raciocínio de nível sênior, o Fable 5 alcançou a pontuação mais alta entre todos os modelos testados. A IMC afirmou que o modelo acertou praticamente todas as avaliações de análise de negociação.

Em tarefas visuais, o modelo reconstruiu o código-fonte de um aplicativo web a partir de capturas de tela, sem ferramentas auxiliares.

Segurança com fallback automático

O Fable 5 inclui classificadores de segurança. Quando uma consulta envolve cibersegurança, biologia ou química, o sistema redireciona automaticamente para o Claude Opus 4.8. O usuário é informado sempre que isso ocorre.

Segundo a Anthropic, menos de 5% das sessões acionam o redirecionamento.

Ciência: dez vezes mais rápido

Na área de design de medicamentos, o Mythos 5 (versão sem restrições para parceiros selecionados) acelerou etapas do processo em cerca de dez vezes.

Em pesquisa de genômica, o modelo treinou um sistema que superou um modelo publicado na revista Science, sendo 100 vezes menor.

Preço e disponibilidade

O Claude Fable 5 está disponível hoje. O preço é de US$ 10 por milhão de tokens de entrada e US$ 50 por saída – menos da metade do Claude Mythos Preview.

Nos planos Pro, Max, Team e Enterprise, o acesso está incluído sem custo adicional até 22 de junho. Após essa data, o uso exigirá créditos.

O post Claude Fable 5: nova IA da Anthropic reduz dois meses de trabalho a um dia apareceu primeiro em Olhar Digital.

Claude Fable 5: nova IA da Anthropic reduz dois meses de trabalho a um dia Read More »

istock 2225035439 1024x675

Disputa com Casa Branca expõe riscos políticos da Anthropic antes do IPO

A relação entre a Anthropic e o governo dos Estados Unidos entrou em rota de colisão após divergências sobre o uso militar de inteligência artificial. O impasse envolveu decisões de segurança nacional e medidas de restrição que atingiram diretamente a empresa.

Nos últimos meses, porém, o clima começou a mudar em Washington. Ainda sem acordo definitivo, mas com sinais de aproximação, explica a Reuters.

Debate sobre uso de IA militar segue no centro da relação entre empresas de tecnologia e a Casa Branca. Imagem: Artem Onoprienko/iStock

Impasse começou com restrições ao uso militar de IA

A tensão começou quando a Anthropic recusou permitir que suas tecnologias fossem usadas pelas Forças Armadas dos EUA em vigilância doméstica e em sistemas de armas totalmente autônomos. A resposta do governo veio em seguida: a empresa foi incluída em uma lista de segurança nacional, cuja aplicação deve entrar em vigor ainda este ano.

Em março, o Departamento de Defesa foi além e classificou a empresa como um “risco para a cadeia de suprimentos”. É a primeira vez que uma companhia americana recebe esse tipo de enquadramento, geralmente reservado a empresas ligadas a países considerados adversários. Na prática, a decisão impede que contratados militares usem modelos da Anthropic em projetos ligados às Forças Armadas.

Sempre que o governo sinaliza que está se desvinculando de uma empresa, isso é um grande problema para ela.

Franklin Turner, advogado que atua com contratos governamentais, à Reuters.

ia militares
Disputa entre Anthropic e governo dos EUA envolve uso de IA em defesa e vigilância doméstica. Imagem: Gorodenkoff/Shutterstock

Sinais de reaproximação começaram na Casa Branca

A mudança de clima começou a aparecer depois de uma visita do CEO Dario Amodei à Casa Branca, em abril. Foi o primeiro encontro mais amplo desde o início da disputa, abrindo espaço para conversas sobre possível cooperação.

Um dos episódios mais simbólicos dessa reaproximação foi o convite para que Amodei participasse da assinatura de uma ordem executiva sobre inteligência artificial. O evento acabou sendo cancelado, mas a ordem foi posteriormente assinada pelo presidente Donald Trump. Em comunicado, a Anthropic afirmou que espera “colaborar” com a Casa Branca na implementação das diretrizes.

Nos bastidores, representantes da empresa também se reuniram com autoridades econômicas dos Estados Unidos para discutir segurança cibernética e políticas de IA. Esses encontros ajudaram a alimentar parte das discussões que embasaram a nova ordem executiva.

Pontos da disputa

  • Recusa da Anthropic em apoiar usos militares de IA em vigilância e armas autônomas
  • Inclusão da empresa em lista de segurança nacional dos EUA
  • Classificação como “risco para a cadeia de suprimentos” pelo Pentágono
  • Reaproximação após reuniões na Casa Branca e encontros com autoridades
  • Processo judicial ainda em andamento e impacto sobre o IPO da empresa
Logo da Anthropic em um smartphone
Especialistas avaliam que impacto da crise entre Anthropic e EUA pode ser mais reputacional no curto prazo. Imagem: JRdes/Shutterstock – Imagem: JRdes/Shutterstock

Disputa segue aberta e ainda gera incertezas

Apesar dos sinais de aproximação, o conflito não foi encerrado. O Pentágono continua contestando a classificação de risco aplicada à empresa, e o caso segue em disputa judicial.

Outro ponto que chamou atenção no setor foi a ausência de executivos da Anthropic em uma simulação militar de ataques cibernéticos organizada pelo Exército dos EUA. O exercício contou com representantes de outras grandes empresas de tecnologia.

Leia mais:

No mercado, o caso é acompanhado de perto. Analistas avaliam que o impacto imediato é mais reputacional do que estrutural, embora ainda gere ruído. “É uma contusão de curto prazo”, resumiu o analista Harrison Rolfes, da PitchBook.

O pano de fundo é a preparação da Anthropic para uma possível abertura de capital, que pode avaliar a empresa em até US$ 1 trilhão. Um movimento que coloca ainda mais pressão sobre a relação com o governo americano.

O post Disputa com Casa Branca expõe riscos políticos da Anthropic antes do IPO apareceu primeiro em Olhar Digital.

Disputa com Casa Branca expõe riscos políticos da Anthropic antes do IPO Read More »

claude chatgpt scaled e1772626568145 1024x577

Anthropic propõe pausa global no avanço da inteligência artificial

A Anthropic publicou um post em seu blog defendendo uma desaceleração global no desenvolvimento da inteligência artificial. A justificativa central é a velocidade do avanço tecnológico. Para a empresa, os sistemas atuais podem abrir caminho para modelos capazes de desenvolver seus próprios sucessores — um cenário que, segundo o artigo, “pode chegar antes do que a maioria das instituições está preparada para enfrentar”.

No documento, a companhia reconhece que uma IA capaz de se aprimorar poderia “trazer enormes benefícios para o mundo” nas áreas de ciência e saúde, entre outras. Mas faz um alerta: sistemas desse tipo também poderiam “aumentar os riscos de os humanos perderem o controle sobre a IA”. A proposta de desaceleração serviria justamente para dar mais tempo às estruturas sociais e às pesquisas de alinhamento acompanharem a evolução da tecnologia.

Anthropic diz que pausa temporária ajudaria pesquisas de segurança a acompanhar a IA. Imagem: Tada Images/Shutterstock – Imagem: Tada Images/Shutterstock

Verificação como condição para qualquer acordo

Para que uma desaceleração seja efetiva, a Anthropic afirma que mecanismos de fiscalização precisam existir. Sem esse tipo de controle, algumas empresas poderiam continuar desenvolvendo tecnologia em segredo enquanto outras interrompem suas atividades.

“Uma desaceleração ou pausa significativa exigiria que múltiplos laboratórios bem financiados, na fronteira ou próximos dela, em múltiplos países, concordassem em parar sob as mesmas condições”, escreve a empresa em seu blog. “Também exigiria que cada um pudesse verificar que os outros realmente pararam.”

A comparação feita pela Anthropic é com os tratados de armas nucleares. A empresa usa esses acordos como exemplo de que uma coordenação internacional não seria impossível — embora admita que processos assim levaram décadas para serem construídos, algo difícil de conciliar com a velocidade atual do setor.

Nos próximos meses, a companhia pretende conversar com formuladores de políticas, pesquisadores e outras empresas de IA. A ideia é publicar os resultados dessas discussões futuramente.

Pessoa usando notebook enquanto interage com interface digital que representa segurança cibernética e inteligência artificial.
Empresa afirma que sistemas futuros podem transformar profundamente economia, trabalho e tecnologia. Imagem: Supapich Methaset / Shutterstock – Imagem: Supapich Methaset / Shutterstock

Pesquisa interna e papel do Anthropic Institute

A proposta parte do trabalho desenvolvido pelo Anthropic Institute, divisão de pesquisa criada pela empresa em março. Na época do lançamento, o grupo afirmou que o objetivo do instituto seria “contar ao mundo” o que aprende sobre os desafios que surgem conforme empresas de IA desenvolvem sistemas mais avançados.

O instituto, em conjunto com colaboradores, conduzirá pesquisas sobre o que é necessário para “construir os sistemas que uma desaceleração ou pausa crível exigiria”.

Entre os principais pontos levantados pela Anthropic estão:

  • risco de sistemas de IA evoluírem sem supervisão humana;
  • dificuldade de criar regras globais que sejam respeitadas;
  • possibilidade de impactos sociais e econômicos profundos;
  • competição acelerada entre empresas e países;
  • necessidade de ampliar pesquisas em segurança de IA.
Interface AI mostrando aviso de erro de prompt e alerta do sistema
Startup de IA quer mais tempo para pesquisas de segurança acompanharem evolução dos modelos. Imagem: Digineer Station/Shutterstock – Imagem: Digineer Station/Shutterstock

Críticas à postura da empresa

O debate em torno da Anthropic também envolve críticas. Segundo reportagem do The Wall Street Journal, parte do setor vê os alertas feitos pela empresa sobre sua própria tecnologia como uma estratégia de marketing — seja para parecer menos problemática que as concorrentes, seja para reforçar a imagem de que seus produtos estão entre os mais avançados do mercado.

Um dos exemplos citados é o lançamento restrito do modelo de IA para cibersegurança Mythos. A Anthropic afirmou que liberou o sistema apenas para um grupo seleto de parceiros devido ao potencial de dano que sua capacidade de identificar vulnerabilidades rapidamente poderia causar em mãos erradas.

Leia mais:

Nem todo mundo, porém, comprou essa justificativa. Parte das críticas interpreta a restrição como uma forma de gerar expectativa em torno do produto ou até de reservá-lo apenas para grandes empresas.

Na área financeira, a Anthropic também vive um momento importante. A empresa caminha para registrar seu primeiro trimestre lucrativo, algo que várias concorrentes ainda não conseguiram alcançar. Além disso, já protocolou documentos na SEC para abrir capital, com previsão de que isso aconteça antes do fim do ano.

O post Anthropic propõe pausa global no avanço da inteligência artificial apareceu primeiro em Olhar Digital.

Anthropic propõe pausa global no avanço da inteligência artificial Read More »

codigo ia anthropic claude 1024x594

Anthropic alerta para risco de perda de controle da IA

O avanço acelerado dos sistemas inteligentes pode fazer com que a humanidade perca o controle sobre a tecnologia. O alerta foi divulgado nesta quinta-feira (4) pelo The Anthropic Institute em um relatório sobre autoaperfeiçoamento.

A empresa revelou que a inteligência artificial já escreve mais de 80% do código integrado ao seu próprio sistema. O dado interno inédito acendeu o sinal de alerta sobre a velocidade da autonomia das máquinas.

Atualmente, os engenheiros da companhia entregam, em média, oito vezes mais código por trimestre do que registravam antes. Essa aceleração reduz drasticamente a dependência do trabalho estritamente humano.

No segundo trimestre de 2026, a produção individual saltou para 8 vezes a média anterior após a introdução do Claude Mythos Preview. As linhas tracejadas verticais correlacionam os picos de eficiência aos anúncios públicos de novos modelos. – Anthropic / Divulgação

Risco de autonomia total e recursiva

A tendência técnica aponta para o chamado autoaperfeiçoamento recursivo. O fenômeno ocorre quando uma inteligência artificial se torna capaz de projetar e treinar de forma totalmente autônoma o seu próprio sucessor tecnológico.

De acordo com o documento oficial da Anthropic, essa autonomia pode vir mais rápido do que as instituições estão preparadas. Sem supervisão humana direta, os métodos tradicionais de segurança e monitoramento perdem a eficácia.

O ritmo de execução de tarefas complexas concluídas sem intervenção humana já dobra a cada quatro meses. Em exames globais de engenharia de software, os sistemas atingiram saturação completa em apenas dois anos.

Capacidade sobre-humana em testes

A ferramenta Claude Mythos Preview alcançou uma capacidade de otimização considerada sobre-humana. O sistema atingiu uma aceleração de 52 vezes em testes internos de treinamento de pequenos modelos de inteligência artificial.

Em missões complexas e sem especificações detalhadas, a taxa de sucesso do software atingiu 76% em maio de 2026. O índice representa uma alta expressiva de 50 pontos percentuais em seis meses.

A revisão de segurança de novos códigos também foi delegada a um avaliador inteligente. A ferramenta automatizada foi capaz de interceptar um terço dos erros técnicos em análises retrospectivas de incidentes.

Proposta de trégua global

A Anthropic sugere que governos e laboratórios de ponta criem um mecanismo global de verificação conjunta. A estrutura permitiria monitorar se as empresas concorrentes estão respeitando normas rígidas de segurança.

O relatório propõe a aplicação de pausas temporárias supervisionadas no desenvolvimento global se os riscos fugirem do controle. A holding afirma que uma pausa unilateral apenas mudaria o líder da corrida tecnológica.

A empresa planeja organizar debates nos próximos meses com formuladores de políticas públicas para discutir o autoaperfeiçoamento de sistemas. O objetivo é envolver a sociedade civil nessa deliberação urgente.

O post Anthropic alerta para risco de perda de controle da IA apareceu primeiro em Olhar Digital.

Anthropic alerta para risco de perda de controle da IA Read More »

anthropic claude mythos 1024x576

Anthropic amplia acesso ao Mythos para 150 organizações

A Anthropic anunciou nesta terça-feira (2) a ampliação do acesso ao seu modelo de inteligência artificial (IA) Mythos para mais 150 organizações distribuídas em mais de 15 países. A expansão ocorre por meio do Project Glasswing, iniciativa criada para avaliar o uso da IA na identificação de vulnerabilidades de software e fortalecer práticas de cibersegurança.

Segundo a empresa, os novos participantes incluem setores que tiveram representação limitada na fase inicial do programa, como energia, abastecimento de água, saúde, comunicações e hardware. Antes de receberem acesso ao modelo, as organizações precisarão atender a requisitos de segurança definidos pela Anthropic.

Projeto amplia alcance para novos setores

Em publicação no blog da companhia, a Anthropic afirmou que a expansão representa mais um passo em seus objetivos de longo prazo relacionados à segurança digital.

De acordo com a empresa, a meta é utilizar a inteligência artificial para tornar os softwares mais seguros e auxiliar o setor a se adaptar às mudanças que a tecnologia pode provocar em pressupostos fundamentais da cibersegurança.

A ampliação do Project Glasswing foi anunciada um dia após a Anthropic informar que começará a oferecer acesso ao Mythos na União Europeia. Na segunda-feira, a companhia também comunicou que apresentou de forma confidencial seu prospecto para uma oferta pública inicial de ações (IPO) à Securities and Exchange Commission (SEC), avançando nesse processo antes da rival OpenAI.

Capacidades do Mythos geraram debates

O primeiro grupo de testes do Mythos foi lançado em abril para 50 parceiros. Desde então, o modelo tem chamado atenção por sua capacidade de localizar falhas em sistemas e softwares.

Especialistas demonstraram preocupação com o fato de que recursos avançados de inteligência artificial poderiam facilitar o trabalho de hackers, permitindo a identificação mais rápida de vulnerabilidades. Embora muitos tenham destacado que essas capacidades já existiam anteriormente, o Mythos poderia acelerar esse processo.

Mythos da Anthropic chamou a atenção por ser perigoso demais dada sua capacidade de localizar falhas em sistemas e softwares – Imagem: Photo For Everything/Shutterstock

Com o aumento das preocupações, a Casa Branca promoveu diversas reuniões com representantes de grandes empresas de tecnologia e instituições financeiras para discutir formas de implementar modelos avançados de IA com segurança.

Mais de 10 mil falhas identificadas

Segundo a Anthropic, os parceiros participantes do Project Glasswing identificaram mais de 10 mil vulnerabilidades classificadas como de nível alto ou crítico desde o lançamento da iniciativa.

A empresa estima que um grande ataque cibernético pode afetar mais de 100 milhões de pessoas.

Entre os principais integrantes do programa estão a Apple, a Nvidia, a Microsoft, a CrowdStrike e a Palo Alto Networks. A Anthropic não revelou quais outras empresas passarão a integrar a coalizão.

A plataforma de gerenciamento de dados em nuvem Rubrik informou, em comunicado, que está entre as organizações incluídas nesta nova etapa do programa.

O post Anthropic amplia acesso ao Mythos para 150 organizações apareceu primeiro em Olhar Digital.

Anthropic amplia acesso ao Mythos para 150 organizações Read More »

openai 1024x682 2

IA: bilhões de SpaceX e OpenAI impulsionam apostas em empresas asiáticas

Investidores globais estão ampliando suas apostas em empresas asiáticas que podem se beneficiar da próxima fase de expansão da inteligência artificial (IA), impulsionada pelas esperadas captações bilionárias de companhias, como SpaceX, OpenAI e Anthropic.

A avaliação do mercado é que os recursos levantados por essas empresas deverão alimentar uma nova onda de investimentos em infraestrutura tecnológica, beneficiando fabricantes de componentes, materiais especializados, sistemas de resfriamento e equipamentos de energia em toda a cadeia de suprimentos da Ásia.

Boom da IA impulsiona mercado asiático

  • A tese vem ganhando força em momento em que os mercados buscam identificar os próximos vencedores do boom da IA;
  • Segundo analistas e gestores ouvidos pela Bloomberg, parte significativa dos recursos que deverão ser levantados pelas três empresas estadunidenses acabará chegando aos fornecedores asiáticos responsáveis por peças de servidores, componentes eletrônicos, materiais para semicondutores e soluções energéticas utilizadas em data centers;
  • O movimento ocorre após fabricantes de chips da região se tornarem alguns dos maiores beneficiários da expansão dos centros de dados;
  • Empresas, como a TSMC, a Samsung e a SK Hynix, alcançaram valorizações que as colocaram no grupo de companhias avaliadas em mais de US$ 1 trilhão (R$ 5 trilhões).

Contudo, após fortes altas nos preços das ações, parte dos investidores passou a demonstrar preocupação com os níveis elevados de avaliação dessas empresas. Com isso, cresce a busca por uma nova geração de vencedores ligados à infraestrutura da IA.

“Os IPOs relacionados à IA podem alimentar ainda mais o boom de investimentos em capital em um momento em que as ações asiáticas de semicondutores parecem esticadas”, afirmou Ken Wong, especialista em ações asiáticas da Eastspring Investments Hong Kong.

Segundo ele, a gestora está reduzindo sua exposição ao setor de semicondutores dentro de sua estratégia tecnológica para a Ásia e direcionando maior atenção para fabricantes de componentes eletrônicos.

OpenAI está na mesma linha da SpaceX e visa IPO bilionário – Imagem: Mehaniq/Shutterstock

Nova rodada de investimentos em IA

A disputa pela liderança em IA já levou gigantes da tecnologia, como a Meta e a Amazon, a realizar investimentos massivos em infraestrutura computacional.

Nesse contexto, as futuras ofertas públicas de ações de SpaceX, OpenAI e Anthropic são vistas como um fator que pode aliviar preocupações do mercado sobre a sustentabilidade do financiamento do setor, especialmente diante do aumento dos níveis de endividamento das empresas.

De acordo com Fabien Yip, analista de mercado da IG International, as listagens das três empresas poderão resultar em cerca de US$ 70 bilhões (R$ 352,6 bilhões) adicionais em gastos relacionados à IA, valor que se somaria aos mais de US$ 750 bilhões (R$ 3,8 trilhões) já comprometidos pelas principais empresas de computação em nuvem e infraestrutura digital.

Segundo Yip, os efeitos dessa expansão já podem ser observados nos resultados financeiros divulgados por fabricantes de chips. “O impacto sobre a Ásia é claramente visível”, afirmou. Para ela, à medida que a valorização ligada à IA amadurece, o movimento está se expandindo para além das empresas diretamente associadas ao desenvolvimento de chips.

Leia mais:

Fabricantes de componentes ganham destaque

Entre as operações mais lucrativas do mercado asiático neste ano estão fabricantes de componentes eletrônicos utilizados em servidores e fornecedores de materiais e processos empregados na produção de semicondutores.

A Samsung Electro-Mechanics e a Ibiden figuram entre os destaques do principal índice amplo de ações asiáticas da MSCI em 2026. Entre apostas consideradas menos óbvias, Yip destaca a fabricante japonesa de sanitários Toto, fornecedora de materiais cerâmicos utilizados em equipamentos para fabricação de semicondutores.

Os fabricantes asiáticos de chips vêm registrando lucros expressivos, impulsionados pela IA, beneficiados pelo forte poder de precificação decorrente da escassez de semicondutores. Agora, sinais de restrições de oferta começam a surgir em etapas posteriores da cadeia produtiva, tendência que pode se intensificar com a continuidade dos investimentos.

A maior conscientização dos investidores sobre esses novos gargalos, somada a fatores técnicos de mercado, tem contribuído para a ampliação do interesse por empresas além das grandes fabricantes de chips.

Servidores, conectividade e infraestrutura

Sam Konrad, gestor de portfólio da Jupiter Asset Management, vê oportunidades em empresas taiwanesas responsáveis pela montagem de servidores, como a Hon Hai e a Quanta, além da desenvolvedora de chips MediaTek.

O ciclo de investimentos em IA vai durar vários anos”, afirmou. “Os investidores provavelmente buscarão empresas que sejam beneficiárias diretas, mas que ainda negociem com múltiplos de avaliação baixos.”

Song Zhe, da BNP Paribas Asset Management, acredita que a próxima etapa da valorização deverá ser mais seletiva. “A próxima fase da alta deve ser específica para determinadas ações, e não uma valorização generalizada dos semicondutores”, afirmou.

Segundo ele, sua equipe está concentrada em empresas ligadas a encapsulamento avançado de chips, substratos, testes, conectividade óptica, energia, sistemas de resfriamento e infraestrutura de servidores em Taiwan e na China, segmentos nos quais as perspectivas de crescimento dos lucros ainda podem justificar as avaliações de mercado.

Além disso, alguns investidores estão direcionando recursos para aplicações de IA além dos chatbots, incluindo robótica e veículos autônomos. Esse segmento emergente, conhecido como “IA física”, recebeu impulso dos esforços da Nvidia para expandir seus negócios nessa área, beneficiando empresas parceiras, como a LG.

Energia surge como novo gargalo

Outro setor que vem atraindo atenção crescente é o de energia, considerado fundamental para sustentar a proliferação de data centers. Fontes nucleares e alternativas de geração ganharam destaque, especialmente em um cenário de alta dos preços do petróleo, provocada pela guerra envolvendo o Irã.

Na Coreia do Sul, empresas, como a HD Hyundai Energy e a Daewoo Engineering & Construction, estão entre os principais destaques do mercado acionário local neste ano.

Na Índia, os investimentos do Adani Group em data centers abastecidos por energia renovável impulsionam o desempenho de suas subsidiárias do setor energético, representando uma das poucas apostas ligadas à inteligência artificial no país.

Jian Shi Cortesi, gestora da GAM Investment Management, considera o fornecimento de energia “o gargalo menos explorado” pelos investidores, mas alerta que a próxima fase da euforia em torno da IA pode envolver riscos maiores.

Segundo ela, caso a demanda por IA não justifique o volume de investimentos realizados, as empresas poderão reduzir seus gastos de capital, deixando o mercado diante de excesso de infraestrutura e de fortes quedas nas avaliações.

Logo da Anthropic em um smartphone na horizontal
Anthropic também está no bolo – Imagem: Samuel Boivin/Shutterstock

Fornecedores asiáticos devem ser beneficiados

Brian Ooi, gestor da Swiss-Asia Financial Services, avalia que as futuras captações de recursos de SpaceX, OpenAI e Anthropic representam um sinal positivo para a manutenção de investimentos em ações relacionadas à IA.

Ele também destaca oportunidades ligadas ao setor energético, especialmente em fabricantes de transformadores, células de combustível, cabos, turbinas a gás e outros equipamentos. Segundo Ooi, as três empresas terão mais recursos para sustentar seus planos de expansão.

“As três grandes ofertas relacionadas à IA fornecerão mais liquidez para que elas continuem investindo em gastos de capital, e elas já possuem planos significativos de investimentos”, afirmou. “Os fornecedores asiáticos serão beneficiados.”

O post IA: bilhões de SpaceX e OpenAI impulsionam apostas em empresas asiáticas apareceu primeiro em Olhar Digital.

IA: bilhões de SpaceX e OpenAI impulsionam apostas em empresas asiáticas Read More »

anthropic claude mythos system card 1024x576

A IA que a Anthropic tem medo de lançar: o que você precisa entender sobre o Mythos

A Anthropic desenvolveu um modelo de inteligência artificial (IA) capaz de revolucionar a cibersegurança. Mas, ao anunciá-lo, tomou uma decisão incomum: trancou o modelo a sete chaves. E distribuiu as chaves para algumas empresas. Por quê? Segundo a empresa, o modelo seria “perigoso demais” para cair nas mãos do público geral. “As consequências – para as economias, a segurança pública e a segurança nacional – podem ser graves”, declarou a empresa.

O Claude Mythos Preview (nome completo da criança) é o modelo de IA mais avançado já desenvolvido pela startup de Dario Amodei até o momento. Ele foi anunciado junto ao Projeto Glasswing, iniciativa liderada pela Anthropic em parceria com big techs como Apple, Google, Microsoft e Nvidia. Em suma, é um consórcio criado para testar o modelo em sigilo.

Até que ponto esse anúncio misterioso se sustenta? E até que ponto é mais uma jogada de marketing da Anthropic? O Olhar Digital mergulhou no tema e conversou com especialistas para te explicar o que importa.

O que o Mythos faz de verdade?

O modelo de IA opera como se fosse um engenheiro de software experiente. Para você ter ideia, ele consegue identificar bugs sutis e corrigir os próprios erros.

“O Mythos Preview encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas nos principais sistemas operacionais e navegadores”, informou a Anthropic. Até o momento, a startup divulgou uma fração do que afirma ter sido encontrado pelo modelo.

“Nos benchmarks de programação, ele [o Mythos] realmente mostrou uma evolução muito grande em comparação ao seu antecessor”, disse Carraro à reportagem – Imagem: Nwz/Shutterstock

Fabrício Carraro, Program Manager na Alura e colunista do Olhar Digital, explorou o System Card publicado pela empresa. É um documento de 245 páginas no qual a Anthropic detalha seus testes e benchmarks.

“Nos benchmarks de programação, ele [o Mythos] realmente mostrou uma evolução muito, muito grande em comparação ao seu antecessor, o Opus 4.6”, disse Carraro à reportagem.

Segundo a empresa, essa IA pode superar quase todos os humanos, exceto os mais qualificados, na identificação e exploração de vulnerabilidades de software. Daí o dito perigo em lançar o Mythos de forma ampla. Afinal, ele poderia ser usado como escudo e como arma. Mas existe uma peculiaridade.

“Diferente de um código convencional de computador que você pode entrar lá e olhar certinho o que que ele faz e o que não faz; se tem bug ou se não tem, uma inteligência artificial não funciona assim. Ela é uma caixa preta”, explicou Roberto “Pena” Spinelli, físico pela USP, com especialidade em Machine Learning pela Universidade de Stanford, e também colunista do Olhar Digital. “A gente treina ela em atividades, mas a gente não sabe no final das contas as capacidades que ela tem.”

Pessoa segurando celular com logomarca do Claude Mythos na tela; ao fundo, monitor exibe linhas de código de programação
O Claude Mythos, da Anthropic, opera como se fosse um engenheiro de software experiente – Imagem: Photo For Everything/Shutterstock

Quando o Anthropic diz ‘esse modelo é perigoso demais para a gente lançar’ é porque na fase de testes ele já fez algumas das coisas que a Anthropic não estava esperando

Roberto “Pena” Spinelli, físico pela USP, com especialidade em Machine Learning pela Universidade de Stanford, em entrevista ao Olhar Digital

Além disso, avaliações independentes sugerem que o perigo é real. Só que mais limitado do que a Anthropic deu a entender no comunicado sobre o Mythos e o Projeto Glasswing.

Uma análise do Instituto de Segurança de IA (AISI, na sigla em inglês) do Reino Unido, que teve acesso antecipado ao modelo, constatou que a IA da Anthropic executou tarefas de hacking avançado em 73% das suas tentativas. Até abril, nenhuma IA conseguia fazer isso.

No entanto, vale destacar: nos testes do AISI, o Mythos enfrentou defesas de software quase inexistentes. Por isso, o instituto concluiu que, embora seja um modelo poderoso, a maior ameaça do Mythos é contra sistemas vulneráveis e mal defendidos.

Em entrevista à Scientific American, Ciaran Martin, professor na Universidade de Oxford, comparou o cenário a um atacante fazer gol contra o pior goleiro do mundo. Martin é ex-CEO do Centro Nacional de Segurança Cibernética (NSCS, na sigla em inglês) do Reino Unido.

Mythos: de inovação tecnológica para preocupação de segurança nacional

Para você se localizar, confira abaixo uma linha do tempo com pontos-chave do desenvolvimento, anúncio e repercussão do Mythos e do Projeto Glasswing:

Março de 2026: antecedentes e tensões

  • Início de março: Surge uma tensão pública entre o Pentágono (militares dos EUA) e a Anthropic;
  • 2 de março: O modelo Claude tem um aumento expressivo de popularidade após desentendimentos entre a empresa e militares;
  • 5 de março: O governo dos EUA, sob a administração Trump, anuncia o bloqueio da startup Anthropic por parte do Pentágono (o Olhar Digital explicou essa novela na época).

Abril de 2026: O lançamento e o alerta global

  • 7 de abril: A Anthropic anuncia oficialmente a existência do Claude Mythos Preview. A empresa declara que o modelo é capaz de encontrar e explorar falhas de segurança nos grandes sistemas operacionais e navegadores, mas toma a decisão inédita de não liberá-lo ao público devido aos riscos de ciberataques;
  • 8 de abril: Anthropic anuncia o Projeto Glasswing, iniciativa que reúne gigantes como Google, Microsoft, Apple, Amazon, Nvidia e grandes bancos para usar o Mythos na proteção de suas infraestruturas;
  • 10 de abril: O secretário do Tesouro dos EUA, Scott Bessent, convoca os presidentes dos maiores bancos americanos (como Goldman Sachs e Citi) para discutir os riscos cibernéticos impostos pelo novo modelo de IA.

Meados de abril de 2026: repercussão internacional e testes

  • 16 de abril: Bancos alemães iniciam consultas com autoridades e especialistas sobre os riscos do Mythos, enquanto o Banco da Inglaterra intensifica seus testes de risco;
  • 17 de abril: Relatórios do AISI do Reino Unido são divulgados, confirmando que o Mythos completou com sucesso uma simulação de ataque cibernético de 32 etapas, algo inédito para uma IA. Especialistas começam a debater se o modelo é uma revolução real ou parte de uma estratégia de marketing;
  • Semana de 17 de abril: O Mythos é tema de discussões em reuniões do Fundo Monetário Internacional (FMI) em Washington, sendo descrito pelo ministro das finanças do Canadá como um “desconhecido perigoso”.

Final de abril de 2026: brecha de segurança

  • 21 de abril: A Bloomberg revela que um pequeno grupo de usuários não autorizados conseguiu acesso ao Mythos por meio de um fórum privado. O acesso teria ocorrido no mesmo dia do anúncio original do modelo;
  • 22 de abril: A Anthropic confirma que investiga o relato de acesso não autorizado ao Claude Mythos Preview por meio de um fornecedor terceirizado.

Em 18 de maio, o Financial Times publicou que a Anthropic deverá apresentar ao Conselho de Estabilidade Financeira um relatório sobre os riscos cibernéticos identificados pelo Mythos.

Em suma, o contexto é:

  • O novo modelo de IA da Anthropic chamou atenção de bancos centrais e ministérios da Fazenda por sua capacidade de detectar vulnerabilidades em softwares, navegadores e infraestruturas importantes – o que também poderia facilitar ataques mais sofisticados ao sistema financeiro global;
  • A relevância do tema aumentou após o presidente do Banco da Inglaterra, Andrew Bailey, afirmar que o Mythos poderia “desvendar todo o cenário de riscos cibernéticos” e ampliar ameaças a sistemas usados por bancos.

Avanço real ou jogada de marketing da Anthropic?

Em vez de lançar o Mythos para o público geral, a Anthropic concedeu acesso a empresas por meio do Projeto Glasswing. A startup descreveu essa iniciativa como “um esforço para proteger os softwares mais cruciais do mundo”.

Ícones de chatbots de inteligência artificial em tela inicial de celular Android
A Anthropic, desenvolvedora do Claude, compete com gigantes como OpenAI (ChatGPT), Google (Gemini) e Meta – Imagem: Tada Images/Shutterstock

Entre as companhias de tecnologia que toparam participar do projeto, estão: Amazon Web Services (AWS), Apple, Microsoft, Google, Nvidia, Broadcom e CrowdStrike (sim, aquela empresa por trás do apagão global em 2024). “São empresas com muito foco em cibersegurança”, observou Carraro.

A Anthropic deu acesso, elas usaram e chancelaram. Ou seja, dá pra gente acreditar que realmente esse modelo é um grande salto de qualidade em relação ao Opus 4.6.

Fabrício Carraro, Program Manager na Alura, em entrevista ao Olhar Digital

Só que muitos analistas e especialistas independentes em cibersegurança ainda não puderam testar o Mythos por conta própria. Por isso, alguns continuam céticos sobre o desempenho do modelo.

Então, fica a pergunta: o Mythos representa um grande avanço para a IA ou seu anúncio foi uma jogada de marketing da Anthropic para inflar sua importância? Para o especialista da Alura, um pouco dos dois.

Carraro explicou que a Anthropic quer se posicionar como a principal empresa de IA voltada para negócios, programação e cibersegurança. Isso enquanto compete com gigantes como OpenAI (ChatGPT), Google (Gemini) e Meta.

Captura de tela de página sobre Projeto Glasswing no site da Anthropic
O Projeto Glasswing é um consórcio criado pela Anthropic para big techs testarem o Mythos em sigilo – Imagem: Reprodução/Anthropic

Por um lado, ele constatou a evolução da tecnologia da startup (no quesito código, pelo menos) ao analisar o System Card do Mythos. Por outro, observou com desconfiança o vazamento de dados sobre o modelo logo antes da empresa colocar no ar a página sobre o Projeto Glasswing – com vídeos bem produzidos e tudo.

“Ele [o Mythos] é excelente para programação, só que também tem o lado de marketing de eles se venderem como ‘nós somos a crista da onda’”, analisou Carraro. Para ele, é como se a Anthropic dissesse: “governo dos Estados Unidos, governo de outros países, empresas de qualquer setor, usem os nossos modelos, porque a gente pode dar acesso antecipado para [vocês] testarem o estado da arte ao qual os meros mortais não vão ter acesso”. 

Essa parte de ‘perigoso demais’ também encaixa um pouco nessa questão do marketing. Dá para as duas coisas serem verdade ao mesmo tempo.

Fabrício Carraro, em entrevista ao Olhar Digital

Seja como for, não é de hoje que o anúncio de um novo modelo de IA vem acompanhado dos termos “perigoso” e “revolucionário”. Cutucar medo e entusiasmo tornou-se uma marca registrada da indústria da IA.

Para o Centro Nacional de Segurança Cibernética do Reino Unido, o mais importante agora é: 1) não entrar em pânico; e 2) focar em acertar no básico quando o assunto é segurança cibernética.

Mythos reforça a necessidade de regulação da IA e a importância da pesquisa acadêmica

Se você chegou até aqui, talvez tenha pensado “foi bom a Anthropic ter segurado o Mythos, já que pode ser tão perigoso”. E é uma linha de raciocínio bem válida, tá? Mas, para Pena, essa decisão da Anthropic não é o suficiente para lidar com a situação.

“Para consertar tudo [que o Mythos achou de brecha]… a gente está falando de coisas tão estruturais”, disse o especialista em Machine Learning.

É muito recurso que tem que ser usado. E, às vezes, nem é possível porque tem sistema que [você] não pode tirar do ar para aplicar a segurança necessária. Então, eu não acho que [o Projeto Glasswing] vai resolver.

Roberto “Pena” Spinelli, em entrevista ao Olhar Digital

Segundo Pena, a solução seria regulação, a nível mundial, sobre o uso da IA e “as responsabilidades de cada um”. “A sociedade tem que exigir que a IA só possa entrar em sistemas que estejam seguros. E, se não dá para fazer isso, então não pode fazer”, disse o pesquisador.

Foto de explosão de bomba nuclear; explosão e fumaça projetam forma de cogumelo no horizonte
Para o especialista, evitar regular a IA a nível mundial é como dizer: “De vez em quando, alguém vai conseguir fazer uma bomba atômica no quintal” – Imagem: DOBUTSU/Shutterstock

Para entender esse raciocínio, imagine o desenvolvimento, sem regulação, de uma bomba atômica ou tecnologias com energia nuclear envolvida. Esse é o paralelo traçado pelo especialista na sua explicação.

“[É como se falássemos] Olha, de vez em quando vai ter alguém aí que vai conseguir fazer uma bomba atômica no quintal. E vai poder colocar todo mundo em risco. Não! Primeiro, você entende que o negócio é muito poderoso. Você regula”, disse Pena.

Neste ponto, entra também a importância da pesquisa acadêmica. “No geral, os cientistas têm uma probidade ética maior do que empresas”, disse o especialista. Mas, para ele, todos precisam remar para a mesma direção: regulação e responsabilização.

“Então, [quando] você vai fazer uma pesquisa ou desenvolver um produto, você precisa ter responsabilização. Você precisa ter um entendimento daquilo e garantir que o que você está colocando seja seguro”, reforçou Pena.

“Está faltando essa camada muito importante de regulação da inteligência artificial”, finalizou o pesquisador.

O post A IA que a Anthropic tem medo de lançar: o que você precisa entender sobre o Mythos apareceu primeiro em Olhar Digital.

A IA que a Anthropic tem medo de lançar: o que você precisa entender sobre o Mythos Read More »