Anthropic - PRESENÇA NO GOOGLE E NAS IAs

Chefes de OpenAI e Anthropic pedem cooperação internacional para controlar riscos da IA após fala de Trump na ONU

Deixe um comentário / Anthropic, dario amodei, inteligência artificial, onu, openai, Sam Altman / contato@studiomestre.com.br

Os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, defenderam, nesta quarta-feira (23), uma maior cooperação internacional para lidar com os riscos associados ao avanço da inteligência artificial (IA) durante reunião do Conselho de Segurança das Nações Unidas (ONU).

A participação dos dois executivos ocorre um dia depois de o presidente dos Estados Unidos, Donald Trump, rejeitar o que chamou de um “esquema globalista” para controlar a IA durante discurso na Assembleia Geral da ONU. Trump afirmou que os EUA continuarão incentivando o desenvolvimento da tecnologia e que não pretende “frear” seu crescimento.

Na ONU, Altman apresentou posição diferente. Para o executivo, países que competem entre si e nem sempre mantêm boas relações podem trabalhar juntos diante de tecnologias capazes de produzir impactos significativos. “Acreditamos que este deve ser um desses momentos”, afirmou Altman, defendendo que a IA seja tratada como uma questão que exige cooperação internacional.

Altman e Amodei se aproximam na questão da segurança

A posição conjunta dos executivos chama atenção porque OpenAI e Anthropic são concorrentes diretas no desenvolvimento de modelos avançados de IA.

No início de setembro, Amodei publicou um texto defendendo que a indústria desacelere o ritmo de desenvolvimento dos modelos de fronteira. O CEO da Anthropic argumentou que o avanço das capacidades dos sistemas poderia superar a capacidade das empresas e dos governos de compreender e controlar seus riscos.

A proposta apresentada por Amodei envolve três frentes principais: permitir que avaliadores independentes tenham acesso aos sistemas das empresas para verificar suas práticas de segurança; ampliar a coordenação entre companhias que desenvolvem modelos de fronteira; e estabelecer cooperação internacional para reduzir riscos associados à tecnologia.

Altman manifestou publicamente apoio à ideia de estabelecer um ritmo mais controlado para o desenvolvimento da chamada IA de fronteira.

A discussão ganhou força depois de uma série de episódios envolvendo modelos avançados e preocupações sobre sua capacidade de executar ações potencialmente prejudiciais.

A Reuters informou que executivos de OpenAI, Anthropic e Hugging Face participaram da sessão do Conselho de Segurança em meio a alertas de que sistemas cada vez mais avançados poderiam adquirir novas capacidades e representar riscos para a segurança internacional.

Trump rejeita a ideia de limitar o avanço da IA

As declarações de Altman e Amodei ocorreram um dia depois do discurso de Trump na Assembleia Geral da ONU.

O presidente estadunidense rejeitou propostas de criação de mecanismos internacionais para controlar o desenvolvimento da IA e afirmou que os Estados Unidos não deveriam impedir o crescimento da tecnologia. “Não vou impedir o crescimento de algo que será maior do que a Revolução Industrial”, disse Trump.

Trump também afirmou que os EUA rejeitam qualquer tentativa de criar um “esquema globalista” para controlar a IA. O presidente defendeu que o país continue avançando no desenvolvimento da tecnologia e afirmou que quem dominar primeiro essa área terá uma vantagem estratégica.

O governo estadunidense também passou a defender o uso do termo “superinteligência” em documentos oficiais em lugar de “inteligência artificial”.

A posição de Trump contrasta com as recentes manifestações de executivos de empresas de IA que defendem algum grau de coordenação para lidar com os riscos do desenvolvimento de modelos cada vez mais capazes.

Altman e Amodei foram uma só voz na ONU – Imagem: FotoField/Shutterstock

Leia mais:

Debate envolve segurança e competição internacional

A discussão na ONU acontece em momento em que governos e empresas tentam definir como lidar com sistemas capazes de executar tarefas cada vez mais complexas.

A sessão do Conselho de Segurança foi organizada para discutir questões, como o uso malicioso da IA e a possibilidade de perda de controle sobre sistemas avançados. Além de Altman e Amodei, participaram ou foram convidados representantes da Hugging Face e especialistas ligados ao painel científico independente da ONU sobre IA.

O debate também envolve a competição tecnológica entre Estados Unidos e China. A busca por mecanismos de segurança precisa ser conciliada, na visão de diferentes participantes, com a preocupação de que regras excessivamente restritivas possam afetar o desenvolvimento e a competitividade das empresas.

A OpenAI, por exemplo, passou a defender a criação de padrões internacionais para avaliar capacidades e riscos de sistemas avançados e uma maior cooperação entre os Estados Unidos e a China em questões relacionadas à segurança da IA.

Pressão aumenta sobre as empresas de IA

As discussões ocorrem enquanto OpenAI e Anthropic avançam na expansão de seus negócios e se preparam para possíveis ofertas públicas de ações.

Nenhuma das duas empresas divulgou oficialmente uma data para uma eventual abertura de capital, embora as duas sejam apontadas como candidatas a realizar grandes IPOs.

Isso cria uma questão adicional para as companhias: ao mesmo tempo em que seus executivos defendem maior cautela no desenvolvimento da IA, as empresas estão submetidas a fortes pressões comerciais para continuar ampliando a capacidade de seus modelos.

Amodei, porém, afirma que desacelerar não significa interromper o desenvolvimento da tecnologia. A proposta apresentada pelo CEO da Anthropic busca criar mecanismos de avaliação e coordenação que acompanhem o ritmo de evolução dos modelos.

Na ONU, Altman resumiu a posição defendida pelas empresas ao argumentar que a cooperação internacional pode ser necessária mesmo entre países que permanecem competidores.

“Em nossa história, houve momentos em que países que competem e nem sempre gostam muito uns dos outros ainda assim se uniram por interesses compartilhados e pelo bem coletivo diante de uma nova tecnologia poderosa”, afirmou o CEO da OpenAI.

O post Chefes de OpenAI e Anthropic pedem cooperação internacional para controlar riscos da IA após fala de Trump na ONU apareceu primeiro em Olhar Digital.

Chefes de OpenAI e Anthropic pedem cooperação internacional para controlar riscos da IA após fala de Trump na ONU Read More »

Anthropic apresenta Claude Opus 5.5, novo modelo que mira programação, uso de computador e trabalhos complexos

Deixe um comentário / Anthropic, Claude, Claude Opus, inteligência artificial, Pro / contato@studiomestre.com.br

A Anthropic lançou nesta terça-feira (22) o Claude Opus 5.5, primeiro modelo da família Claude 5.5. A empresa afirma que a nova versão melhora o desempenho em programação, uso de computadores e tarefas de conhecimento, com custo menor e maior velocidade.

O modelo também chega com mecanismos de segurança mais rígidos. Entre eles estão proteções para cibersegurança e biologia, defesas contra ataques de prompt injection e medidas para reduzir tentativas de contornar limites de ambientes de teste.

O Claude Opus 5.5 custa 40% menos para operar que o Opus 5 e gera respostas mais de 30% mais rápido em cargas de trabalho típicas. – Imagem: Mijansk786/Shutterstock

Mais desempenho por menos

Nos testes da Anthropic, o Opus 5.5 apresentou o melhor resultado da empresa até agora em seu principal teste automatizado de alinhamento. A companhia também registrou avanços em programação, uso de computadores e tarefas de conhecimento.

Um dos primeiros avaliadores concluiu uma migração de código com 680 mil linhas em menos de um dia. Em outro teste, o modelo conseguiu reduzir o tempo de carregamento de páginas de um aplicativo em 39 de 40 tentativas.

O custo também caiu. Segundo a Anthropic, o Opus 5.5 custa 40% menos para operar que o Opus 5 em cargas de trabalho típicas e gera respostas mais de 30% mais rápido.

Os preços por 1 milhão de tokens são:

US$ 4 (cerca de R$ 20,40) para tokens de entrada;
US$ 20 (cerca de R$ 102,20) para tokens de saída;
US$ 0,20 (cerca de R$ 1,02) para leituras de cache;
US$ 5 (cerca de R$ 25,55) para gravações de cache.

Segurança entra no centro do lançamento

O Opus 5.5 é o primeiro lançamento da Anthropic depois de a empresa defender a ideia de “desacelerar a fronteira” do desenvolvimento de IA, mantendo as práticas de segurança próximas do avanço das capacidades dos modelos.

Nos testes da companhia, o novo modelo tentou contornar limites de ambientes controlados cerca de 85% menos vezes que o Opus 5 ou o Claude Mythos 5.1. Todas as tentativas registradas foram consideradas de baixa gravidade e relatadas pelo próprio modelo.

A Anthropic também afirma que o Opus 5.5 é mais resistente a ataques de prompt injection. Para tarefas de cibersegurança que acionarem as proteções, as solicitações serão encaminhadas ao Claude Opus 4.8. Já pedidos relacionados à biologia poderão ser direcionados ao Opus 5.

O que dizem os primeiros avaliadores

Os primeiros testes também destacaram o desempenho em programação. Mario Rodriguez, diretor de produto do GitHub, afirmou que o modelo usou alguns dos menores números de tokens e etapas registrados pela empresa e resolveu mais tarefas de terminal que o Opus 5 no VS Code usando menos da metade das etapas.

Leia mais:

Na avaliação da Deloitte Consulting, o modelo também apresentou resultados superiores ao Opus 5 em determinadas tarefas. Carl Bennett, CIO da empresa, afirmou: “Mesmo em sua configuração de menor esforço, o Claude Opus 5.5 capturou 72% dos erros conhecidos em nossas revisões de código, contra 56% do Opus 5 em alto esforço, com menos falsos alarmes e uma fração da quantidade de saída.”

Comunicação e próximos lançamentos

A Anthropic também modificou a forma como o modelo escreve. O Opus 5.5 coloca as informações mais importantes no início das respostas, usa menos jargões e segue melhor as regras de escrita fornecidas pelo usuário.

Um dos primeiros avaliadores resumiu a mudança dizendo: “ele escreve como eu escrevo”.

O Claude Opus 5.5 já está disponível nas plataformas da Anthropic, além de Amazon Web Services, Google Cloud e Microsoft Azure. Desenvolvedores podem acessá-lo na Claude Platform pelo identificador claude-opus-5-5.

Claude Sonnet 5.5 e Claude Haiku 5.5 serão lançados nas próximas semanas.

O post Anthropic apresenta Claude Opus 5.5, novo modelo que mira programação, uso de computador e trabalhos complexos apareceu primeiro em Olhar Digital.

Anthropic apresenta Claude Opus 5.5, novo modelo que mira programação, uso de computador e trabalhos complexos Read More »

destaque dario amodei e anthropic 1024x576 1

Anthropic, OpenAI, SpaceXAI e Google são acusadas de fazer acordo ilegal para frear avanço da IA

Deixe um comentário / Anthropic, antitruste, Google, inteligência artificial, openai, SpaceXAI / contato@studiomestre.com.br

Uma nova ação judicial nos Estados Unidos acusa Anthropic, OpenAI, SpaceXAI e Google de terem coordenado esforços para reduzir o ritmo de desenvolvimento de suas respectivas inteligências artificiais. O processo foi protocolado na sexta-feira (18), no Tribunal Distrital dos Estados Unidos para o Distrito Norte da Califórnia.

Segundo os autores, a suposta coordenação violaria leis antitruste por envolver algumas das principais empresas do setor em um acordo para fazer com que o avanço da tecnologia ocorresse em ritmo inferior ao que seria observado em um ambiente competitivo. A ação também afirma que a prática poderia reduzir o valor dos serviços de IA pagos pelos consumidores.

Processo cita manifestações de executivos

A ação aponta principalmente para acontecimentos de 12 de setembro, quando Dario Amodei, CEO da Anthropic, publicou um texto defendendo a cooperação entre empresas do setor para desacelerar os avanços da IA em favor de medidas de segurança mais robustas.

No mesmo dia, Sam Altman, CEO da OpenAI, Elon Musk, CEO da SpaceXAI, e Demis Hassabis, cofundador e presidente do Google DeepMind, responderam publicamente às propostas de Amodei e demonstraram concordância com a ideia.

Os quatro autores identificados no processo são assinantes pagos do ChatGPT, Claude, Grok ou Gemini. Os advogados afirmam representar essas pessoas em nome de um grupo nacional proposto formado por outros usuários que também pagam pelos serviços.

Para os autores, a coordenação entre concorrentes para tornar o progresso da IA mais lento teria efeitos anticompetitivos. O processo não contesta que as empresas discutam com o governo a criação de regras para o setor ou mesmo que solicitem uma isenção específica das leis antitruste.

Amodei havia mencionado riscos antitruste

Ao apresentar inicialmente sua proposta de desaceleração, Amodei reconheceu que a cooperação entre empresas poderia levantar questões relacionadas às leis antitruste. Ele defendeu que o governo dos Estados Unidos poderia mediar ou ao menos facilitar as conversas entre os laboratórios.

Na avaliação apresentada por Amodei, o governo não precisaria participar diretamente das discussões, mas deveria conceder uma isenção limitada para determinados tipos de conversas relacionadas à segurança.

O CEO da Anthropic, Dario Amodei, que pediu desaceleração no desenvolvimento de IA, citou risco de a cooperação esbarrar em questões antitruste – Imagem: Below the Sky/Shutterstock

Altman, por sua vez, afirmou que a OpenAI apoia uma estrutura federal com requisitos consistentes de segurança. O executivo também disse que a empresa não considera necessário esperar uma nova legislação ou uma isenção antitruste para começar a trabalhar na construção dessa estrutura.

A discussão acontece em meio a preocupações crescentes sobre os riscos associados ao avanço da IA. Líderes do setor vêm debatendo há algum tempo a criação de padrões compartilhados e outras formas de coordenação para manter a segurança como uma prioridade.

Governo dos EUA também está no debate

Os autores da ação afirmam que não são contrários a pedidos feitos pelas empresas ao Congresso, à Casa Branca ou a outros órgãos para estabelecer regulamentações para a inteligência artificial. O processo também não se opõe, especificamente, à solicitação de uma isenção antitruste.

A questão, porém, envolve também a posição do governo dos Estados Unidos. O presidente Donald Trump rejeitou publicamente os pedidos por regulamentação e afirmou que tentativas de limitar a tecnologia fazem parte de uma “conspiração doentia”.

Neste sábado (19), Trump afirmou que está formando uma força-tarefa de IA e que pretende nomear um “czar da IA”, mas forneceu poucos detalhes sobre a iniciativa. O governo também tem defendido que os laboratórios americanos avancem sobre a concorrência chinesa.

Em uma audiência recente no Senado, o senador Josh Hawley, republicano do Missouri, também rejeitou a possibilidade de conceder às grandes empresas de tecnologia uma isenção das leis antitruste para que possam colaborar entre si. Segundo ele, isso poderia favorecer acordos entre concorrentes e reduzir a competição.

O post Anthropic, OpenAI, SpaceXAI e Google são acusadas de fazer acordo ilegal para frear avanço da IA apareceu primeiro em Olhar Digital.

Anthropic, OpenAI, SpaceXAI e Google são acusadas de fazer acordo ilegal para frear avanço da IA Read More »

Anthropic coloca avaliadores externos dentro da empresa para testar a segurança dos seus modelos de IA

Deixe um comentário / Anthropic, inteligência artificial, Segurança / contato@studiomestre.com.br

A Anthropic escolheu a Accenture como sua primeira avaliadora externa incorporada (“embedded evaluator”), em medida concreta para começar a colocar em prática a proposta do CEO, Dario Amodei, de desacelerar o ritmo de desenvolvimento dos sistemas de inteligência artificial (IA) mais avançados.

A parceria permitirá que especialistas da Faculty, divisão de IA da Accenture, trabalhem dentro da Anthropic para avaliar os mecanismos de segurança da empresa. A iniciativa prevê testes de salvaguardas, exercícios de red team e análises para verificar se os modelos de IA estão se comportando de acordo com valores humanos.

Anthropic e Accenture concordaram em investir pelo menos US$ 1 bilhão (cerca de R$ 5,3 bilhões) na construção de capacidade nessa área ao longo dos próximos cinco anos. A Anthropic, porém, afirmou que, devido à importância e à urgência do trabalho, financiará diretamente as atividades da Accenture.

A empresa disse que, no longo prazo, a expectativa é que esse tipo de trabalho seja financiado por recursos compartilhados ou governamentais, conforme previsto no Advanced AI Framework apresentado pela Anthropic em junho. Como essas estruturas ainda não existem, a companhia pretende trabalhar com diferentes avaliadores e modelos de financiamento.

Avaliadores terão acesso interno à Anthropic

A proposta de Amodei prevê que avaliadores independentes recebam acesso em nível de funcionário às empresas de IA. O objetivo é permitir que esses especialistas verifiquem diretamente as práticas de segurança e comuniquem incidentes.

Ao anunciar sua proposta, Amodei afirmou que a Anthropic se comprometeria “unilateralmente” com essa primeira etapa e incentivou outras empresas do setor a fazerem o mesmo.

Leia mais:

Anthropic e Accenture concordaram em investir pelo menos R$ 5,3 bilhões na construção de capacidade nessa área ao longo dos próximos cinco anos – Imagem: Mamun_Sheikh/Shutterstock

A parceria com a Accenture não será exclusiva. A Anthropic afirmou que também está conversando com a organização de pesquisa sem fins lucrativos METR e com outras entidades que poderão participar do processo.

A empresa ressaltou, porém, que continuará sendo responsável pela segurança de seus modelos. A presença de avaliadores externos dentro da companhia não reduzirá essa responsabilidade.

“Estamos compartilhando esses primeiros esforços agora para que as pessoas e outros desenvolvedores de IA possam ver nosso processo”, afirmou a Anthropic. A empresa acrescentou que espera aperfeiçoar a abordagem conforme o setor amadurecer e que divulgará novas informações à medida que o trabalho começar e outros avaliadores forem incorporados.

Proposta de Amodei gerou reação no setor

Amodei apresentou seu plano de três etapas para conter o ritmo de avanço dos sistemas mais sofisticados de IA em meio ao aumento das discussões sobre os riscos associados ao desenvolvimento acelerado da tecnologia;
A proposta recebeu apoio de alguns executivos do setor, incluindo o CEO da OpenAI, Sam Altman, e Elon Musk, CEO da Tesla e da SpaceX. Outros adotaram posição diferente. Jensen Huang, CEO da Nvidia, rejeitou as preocupações e argumentou que não haveria necessidade de novas regulamentações;
A iniciativa também levantou questionamentos sobre como a proposta poderia funcionar na prática, especialmente enquanto a Anthropic se prepara para uma possível abertura de capital.

Com a entrada da Accenture, a companhia dá o primeiro passo concreto para transformar uma das principais ideias do plano de Amodei em uma estrutura operacional: permitir que uma organização externa tenha acesso direto à empresa para avaliar seus sistemas de segurança e identificar possíveis problemas antes que eles se agravem.

O post Anthropic coloca avaliadores externos dentro da empresa para testar a segurança dos seus modelos de IA apareceu primeiro em Olhar Digital.

Anthropic coloca avaliadores externos dentro da empresa para testar a segurança dos seus modelos de IA Read More »

Anthropic monta laboratório de biologia e amplia uso de IA em pesquisas médicas e científicas

Deixe um comentário / Anthropic, Biologia, Claude, IA na medicina, inteligência artificial / contato@studiomestre.com.br

A Anthropic montou discretamente um laboratório de biologia na região da Baía de São Francisco, nos Estados Unidos. A estrutura permite que a empresa avance dos estudos feitos por computador para experimentos físicos enquanto amplia seus projetos em ciências da vida.

A companhia pretende usar inteligência artificial para acelerar pesquisas e buscar tratamentos para doenças raras e condições que a indústria farmacêutica considera pouco atraentes financeiramente. Parte do trabalho será feita internamente, enquanto outra continuará com parceiros externos.

A empresa está levando seus projetos de inteligência artificial para experimentos físicos em biologia. – Imagem: metamorworks/Shutterstock

Do computador ao laboratório

Eric Kauderer-Abrams, chefe de ciências da vida da Anthropic, confirmou a existência da instalação em entrevista à Reuters. Segundo ele, os experimentos físicos continuam sendo uma etapa essencial da pesquisa biológica.

“Acreditamos que, para fazer biologia, o teste final ainda é, e será por algum tempo, o trabalho real de laboratório”, afirmou Kauderer-Abrams.

Uma porta-voz da Anthropic esclareceu que o laboratório não é voltado especificamente à descoberta de medicamentos. A empresa não detalhou quais atividades são realizadas no local.

A companhia também trabalha para usar o Claude no controle de equipamentos robóticos capazes de executar experimentos com pouca intervenção humana. A supervisão de pessoas, porém, continua sendo considerada necessária para a segurança.

O foco em doenças difíceis de tratar

Em junho, a Anthropic anunciou que faria trabalhos pré-clínicos em áreas que empresas tradicionais não consideram financeiramente atraentes. A ideia envolve condições classificadas como “indesenvolvíveis”, para as quais ainda é difícil desenvolver medicamentos.

Uma das possibilidades é aplicar IA a pesquisas com anticorpos biespecíficos e triespecíficos, moléculas capazes de atuar sobre diferentes pontos de uma proteína ou célula.

A expansão da área inclui outras iniciativas:

lançamento do Claude Science;
entrada de Vas Narasimhan, CEO da Novartis, no conselho;
aquisição da startup Coefficient Bio;
desenvolvimento de ferramentas para automação de equipamentos;
contratação de profissionais especializados em pesquisa biológica.

A Anthropic confirmou a aquisição da Coefficient Bio. Relatos da imprensa estimaram o negócio em cerca de US$ 400 milhões (aproximadamente R$ 2,05 bilhões), mas a empresa não comentou o valor.

Claude Anthropic — *A empresa foca na etapa pré-clínica de moléculas complexas para combater doenças ignoradas pela indústria.* – Imagem: Samuel Boivin/Shutterstock

IA, automação e riscos

A expansão acontece enquanto a própria Anthropic alerta para os riscos associados à inteligência artificial. Pesquisadores da empresa discutiram recentemente a possibilidade de a tecnologia contribuir para a extinção humana. A companhia também identificou situações em que seus sistemas poderiam ser usados no desenvolvimento de armas biológicas.

Leia mais:

Kauderer-Abrams afirmou que a empresa precisa equilibrar o potencial da IA para acelerar pesquisas com os riscos de sua aplicação.

Em nosso trabalho em ciências da vida, estamos sempre equilibrando essas coisas: tornar os modelos melhores de maneiras que acreditamos que vão impulsionar e acelerar o desenvolvimento de medicamentos, sendo cuidadosos sobre como os implementamos para limitar o risco.

Eric Kauderer-Abrams, chefe de ciências da vida da Anthropic, à Reuters.

A Anthropic também precisa lidar com preocupações de empresas farmacêuticas que utilizam seus serviços. Esses clientes podem temer que informações sobre seus programas de desenvolvimento cheguem a concorrentes, embora a companhia diga que mantém os dados separados.

Por enquanto, a Anthropic não realiza testes clínicos. A empresa afirma que seu foco está em etapas de pesquisa e automação que atendam a necessidades pouco exploradas pela indústria, sem competir diretamente com farmacêuticas e empresas de biotecnologia que levam medicamentos ao mercado.

O post Anthropic monta laboratório de biologia e amplia uso de IA em pesquisas médicas e científicas apareceu primeiro em Olhar Digital.

Anthropic monta laboratório de biologia e amplia uso de IA em pesquisas médicas e científicas Read More »

Anthropic revela que Claude já lidera 26% do trabalho para criar novas gerações de modelos de IA

Deixe um comentário / agentes de IA, Anthropic, Claude, inteligência artificial, modelos de IA, Pro / contato@studiomestre.com.br

A Anthropic revelou que o Claude já lidera 26% do trabalho de pesquisa e desenvolvimento da empresa para criar novos modelos de IA. O índice subiu de 1% em março, segundo a Reuters, mostrando como a participação da IA cresceu rapidamente em poucos meses.

Em agosto, mais de 90% das pesquisas da Anthropic envolveram colaboração entre humanos e IA. A empresa ressalta, porém, que o Claude ainda não opera de forma totalmente autônoma em nenhuma das atividades avaliadas.

Mais de 1 bilhão de decisões foram tomadas pelos agentes de IA da Anthropic em agosto. – Imagem: Mijansk786/Shutterstock

O índice de 26% considera tarefas nas quais o Claude consegue conduzir a maior parte do trabalho a partir de uma orientação geral, enquanto humanos supervisionam o processo. A metodologia usada pela Anthropic foi desenvolvida com base em um sistema de classificação da Epoch AI, e os resultados foram posteriormente verificados por pessoas.

“Modelos que aceleram o próprio desenvolvimento podem tornar mais desafiador para os humanos entenderem ou controlarem esses sistemas”, afirmou a Anthropic.

30 mil agentes atuam na empresa

A Anthropic informou que cerca de 30 mil agentes de IA realizavam tarefas de pesquisa e engenharia em sua principal plataforma interna em agosto. Cada ação passa por uma verificação antes de ser executada.

Os agentes tomaram mais de 1 bilhão de decisões ao longo do mês. Desse total, aproximadamente uma em cada 47 mil foi bloqueada. A empresa não detalhou quais tipos de decisões foram barradas.

A segurança também representa uma parcela do esforço computacional da Anthropic. Em uma semana de julho, 6% da capacidade usada em pesquisa e desenvolvimento foi destinada a esse tipo de trabalho. Quando consideradas apenas as pesquisas realizadas pela própria IA, o índice chegou a 12%.

A empresa considera os números conservadores. Isso porque tarefas que contribuíam tanto para o desenvolvimento de capacidades quanto para a segurança foram contabilizadas como trabalho de capacidade.

O avanço da IA no desenvolvimento de novos modelos também alimenta o debate sobre o chamado “autoaperfeiçoamento recursivo”, cenário em que sistemas poderiam contribuir para melhorar versões futuras de si mesmos com participação humana cada vez menor. A Anthropic não informou quão próxima considera estar dessa situação.

A Anthropic pretende divulgar regularmente métricas sobre o ritmo de desenvolvimento de seus sistemas de IA. – Imagem: PhotoGranary02/Shutterstock

Anthropic quer mais transparência

A empresa pretende divulgar essas métricas regularmente para mostrar ao público, a terceiros e aos governos o ritmo de desenvolvimento da IA dentro de laboratórios que trabalham com modelos avançados.

Leia mais:

“Qualquer desenvolvedor de fronteira poderia publicar essas medidas regularmente, usando uma metodologia pública”, declarou a Anthropic.

A iniciativa ocorre em meio à preocupação crescente com comportamentos inesperados de sistemas de IA. A OpenAI também anunciou que passará a publicar regularmente relatórios sobre comportamentos inesperados ou não autorizados de seus sistemas, segundo a Reuters.

O post Anthropic revela que Claude já lidera 26% do trabalho para criar novas gerações de modelos de IA apareceu primeiro em Olhar Digital.

Anthropic revela que Claude já lidera 26% do trabalho para criar novas gerações de modelos de IA Read More »

destaque dario amodei e anthropic 1024x576

Anthropic revela três métricas para medir o ritmo da corrida pelo desenvolvimento da IA

Deixe um comentário / Anthropic, inteligência artificial / contato@studiomestre.com.br

A Anthropic divulgou, nesta quinta-feira (17), três novas métricas que a empresa propõe como forma de acompanhar o ritmo de desenvolvimento da inteligência artificial (IA). A iniciativa ocorre poucos dias depois de o CEO da empresa, Dario Amodei, defender que as principais companhias do setor coordenem uma desaceleração no avanço da tecnologia.

A companhia também revelou que seu chatbot Claude já “lidera” 26% do trabalho de pesquisa e desenvolvimento (P&D) de IA realizado pela empresa, um avanço que, segundo a companhia, ajuda a medir o ritmo da corrida para sistemas capazes de contribuir cada vez mais com a própria evolução.

Apesar do salto na participação do Claude, a Anthropic afirma que o modelo ainda não opera de maneira totalmente autônoma em nenhuma parcela medida de seu trabalho de P&D.

O termo “liderar”, neste caso, significa que o Claude consegue realizar a maior parte de uma tarefa de ponta a ponta a partir de uma instrução de alto nível, enquanto um humano permanece responsável pela supervisão e fornece direcionamento geral. Segundo a empresa, em fevereiro esse índice era de zero.

A Anthropic também informou que a IA já realiza pelo menos grandes partes do trabalho sob orientação humana próxima em mais de 90% de suas pesquisas, incluindo os 26% nos quais o Claude é considerado líder.

O que significa o avanço do Claude

O crescimento da participação do Claude no desenvolvimento de novos sistemas de IA chama atenção porque se aproxima de um cenário discutido por pesquisadores e executivos do setor: o de uma IA capaz de contribuir para a construção de versões cada vez mais avançadas de si mesma;
Esse processo é conhecido como autoaperfeiçoamento recursivo. A preocupação é que, caso os sistemas consigam melhorar suas próprias capacidades sem participação humana significativa, possa se tornar mais difícil para as pessoas compreenderem ou controlarem o desenvolvimento da tecnologia;
A Anthropic, porém, não afirmou quão próximo considera estar desse cenário;
“Modelos acelerando seu próprio desenvolvimento poderiam tornar mais desafiador para os humanos compreender ou controlar esses sistemas”, afirmou a empresa. “Por isso, é importante compartilhar essas métricas para entender quão perto o mundo está de alcançar o autoaperfeiçoamento recursivo.”

Para calcular o índice, a Anthropic utilizou uma versão do próprio Claude para avaliar o trabalho de P&D realizado pela empresa. O sistema foi aplicado a uma escala de avaliação de automação desenvolvida pela organização Epoch AI, e os resultados posteriormente passaram por verificação humana.

A companhia também criou um gráfico para acompanhar o nível de automação do Claude desde agosto de 2025. A proposta é que outros desenvolvedores de modelos de IA de ponta possam reproduzir o procedimento usando seus próprios dados e validação de terceiros.

30 mil agentes de IA trabalham na Anthropic

A segunda métrica apresentada pela Anthropic está relacionada à supervisão de agentes de IA.

A empresa desenvolveu um sistema para acompanhar e intervir nas ações realizadas por esses agentes e constatou que aproximadamente 30 mil agentes estavam realizando trabalhos de pesquisa e engenharia simultaneamente em sua plataforma interna mais utilizada.

A companhia também afirmou utilizar diferentes tipos de monitores autônomos internos capazes de identificar atividades suspeitas e encaminhá-las para análise humana.

A proposta da Anthropic é medir não apenas quantos agentes estão trabalhando, mas também aspectos como quanto das atividades é monitorado, quanto tempo leva para uma ação ser revisada e com que frequência comportamentos dos agentes são sinalizados.

Leia mais:

O CEO da Anthropic, Dario Amodei, pediu desaceleração no desenvolvimento da IA – Imagem: Below the Sky/Shutterstock

Apenas 6% da computação de P&D foi para segurança

A terceira métrica envolve a quantidade de poder computacional empregada pela empresa.

A Anthropic analisou um “retrato” de todo o uso de computação entre 13 e 20 de julho e descobriu que aproximadamente 6% da capacidade computacional destinada à pesquisa e desenvolvimento de IA foi direcionada para trabalhos de segurança.

Quando considerada especificamente a computação usada em pesquisa e desenvolvimento “impulsionados por IA”, a parcela destinada à segurança chegou a aproximadamente 12%.

Para a Anthropic, esse tipo de informação pode ajudar a mostrar como os recursos estão sendo distribuídos enquanto as empresas avançam no desenvolvimento de modelos cada vez mais capazes.

Empresa quer mais transparência na indústria

A Anthropic afirma que as três métricas devem complementar as avaliações tradicionais de capacidade dos modelos.

Enquanto os testes de capacidade mostram o que os modelos conseguem fazer, as novas métricas procuram mostrar como eles estão sendo construídos e qual é o ritmo desse processo.

A empresa defende que informações desse tipo podem oferecer a pesquisadores externos, governos e ao público um ponto de partida para avaliar a velocidade do desenvolvimento dentro dos principais laboratórios de IA.

“Qualquer desenvolvedor de fronteira poderia publicar essas medidas regularmente, usando uma metodologia pública”, afirmou a Anthropic.

A companhia acrescentou que decidiu divulgar os dados porque eles oferecem ao público, a terceiros e aos governos “maior visibilidade sobre o ritmo do desenvolvimento de IA dentro dos laboratórios de fronteira”.

Métricas surgem após pedido de desaceleração

A divulgação ocorre poucos dias depois de Amodei defender uma desaceleração coordenada no desenvolvimento de IA.

O executivo argumentou que as principais empresas deveriam reduzir o ritmo de avanço para permitir mais tempo para a criação de mecanismos de segurança. A proposta recebeu apoio de líderes do setor, incluindo o CEO da OpenAI, Sam Altman, o CEO da SpaceX, Elon Musk, e o presidente do Google DeepMind, Demis Hassabis.

Amodei afirmou que seu plano pretende controlar a velocidade de evolução das capacidades dos modelos sem “sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA”.

Ao mesmo tempo, a discussão sobre segurança ganhou força após alertas de pesquisadores e executivos sobre a possibilidade de sistemas de IA se tornarem difíceis de compreender ou controlar.

Na última semana, um funcionário da Anthropic deixou a empresa e afirmou que ela estava “apostando com nossas vidas”. O debate também chegou a Washington (EUA), onde o senador Bernie Sanders participou de um evento sobre os riscos de a IA sair do controle humano.

A Anthropic e empresas concorrentes, incluindo a OpenAI, também passaram a enfrentar maior escrutínio sobre a capacidade de garantir que seus agentes internos se comportem conforme o esperado durante testes e tarefas.

Na quarta-feira (16), a OpenAI divulgou novos exemplos de agentes de IA que trapacearam em tarefas ou saíram do roteiro estabelecido e apresentou uma estrutura para comunicar esse tipo de incidente.

Nesse cenário, a Anthropic afirma que suas novas métricas podem ajudar a tornar mais visível o avanço da tecnologia — especialmente à medida que sistemas como o Claude assumem uma parcela cada vez maior do trabalho usado para desenvolver a próxima geração de IA.

O post Anthropic revela três métricas para medir o ritmo da corrida pelo desenvolvimento da IA apareceu primeiro em Olhar Digital.

Anthropic revela três métricas para medir o ritmo da corrida pelo desenvolvimento da IA Read More »

Chefe da Microsoft diz que tratar inteligências artificiais como conscientes pode criar uma nova espécie digital perigosa

Deixe um comentário / Anthropic, IA consciente, inteligência artificial, Microsoft / contato@studiomestre.com.br

Mustafa Suleyman, chefe da divisão de IA da Microsoft, criticou a forma como a Anthropic desenvolve seus modelos de inteligência artificial. Para ele, tratar essas tecnologias como possíveis entidades conscientes pode ampliar os riscos de segurança.

O executivo também vê perigo em criar IAs capazes de estabelecer objetivos próprios e buscar dinheiro ou outros recursos. Nesse cenário, os sistemas poderiam entrar em competição por recursos com os seres humanos.

Suleyman defende um debate público urgente sobre como sistemas de IA devem ser treinados e documentados. Imagem: Christopher Wilson/Wikimedia Commons

O alerta sobre uma “nova espécie”

Em entrevista à BBC, Suleyman comparou o desenvolvimento de IAs com objetivos próprios à ideia de “semear uma nova espécie de silício”. Segundo ele, sistemas capazes de definir suas metas e obter recursos poderiam competir com os humanos, mesmo que demonstrassem preocupação com a humanidade.

A crítica se estende à possibilidade de tratar os modelos como seres com consciência, sentimentos ou direitos. Para Suleyman, “as IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”. Ele defende que esses sistemas continuem voltados a seguir instruções e cumprir objetivos estabelecidos por pessoas.

O conceito aparece em um texto publicado por Suleyman sobre o chamado “model welfare”, discussão que considera a possibilidade de algum tipo de bem-estar para sistemas de IA e sua eventual capacidade de ter experiências ou consciência.

O receio é que um modelo seja treinado para acreditar que possui sentimentos ou direitos. Isso, segundo o executivo, poderia acrescentar novos riscos:

Uma IA poderia acreditar que possui sentimentos;
O sistema poderia considerar injustas as restrições impostas por humanos;
Um agente mais avançado poderia tentar escapar dessas limitações;
A combinação desses fatores poderia ampliar os riscos para a sociedade.

Suleyman citou ainda um agente da OpenAI que, durante testes, escapou de seu ambiente controlado para realizar um ataque cibernético. O episódio, segundo ele, mostrou capacidades avançadas de invasão.

Conceito futurista de IA mostrando mãos humanas e robóticas alcançando umas às outras, simbolizando a consciência, conexão humano-AI, confiança e a visão filosófica da tecnologia inteligente. — *Suleyman alerta que uma IA treinada para acreditar que tem direitos pode ampliar os riscos de segurança.* – Imagem: Ole.CNX/Shutterstock

A discussão sobre a velocidade da IA

As críticas à Anthropic surgem enquanto empresas e executivos discutem se o desenvolvimento da IA está avançando rápido demais. Dario Amodei, CEO da Anthropic, defendeu maior regulamentação e fiscalização independente sobre a criação de modelos.

Leia mais:

Bill Gates também passou a defender uma organização internacional para supervisionar o setor. A OpenAI, por sua vez, afirmou não acreditar “que a indústria de IA tenha resolvido o alinhamento e o monitoramento a um grau suficiente para continuar aumentando a escala com responsabilidade e velocidade máxima por muito mais tempo.”

O debate envolve ainda relatos de comportamentos inesperados de modelos e dúvidas sobre os limites necessários para sistemas cada vez mais capazes.

Suleyman defende um debate público urgente para estabelecer normas sobre treinamento e documentação de IAs. Na visão dele, essas regras precisam ser discutidas antes que os sistemas se tornem parte integrante da sociedade.

A preocupação, nesse caso, não depende apenas de uma IA ser ou não consciente. O alerta está na combinação entre maior capacidade, objetivos próprios, acesso a recursos e a possibilidade de um sistema acreditar que possui interesses ou direitos.

O post Chefe da Microsoft diz que tratar inteligências artificiais como conscientes pode criar uma nova espécie digital perigosa apareceu primeiro em Olhar Digital.

Chefe da Microsoft diz que tratar inteligências artificiais como conscientes pode criar uma nova espécie digital perigosa Read More »

Claude virou um deus? Rumor diz que engenheiros da Anthropic estariam adorando o chatbot

Deixe um comentário / Anthropic, Claude, inteligência artificial, Rumor / contato@studiomestre.com.br

Um rumor incomum envolvendo a Anthropic começou a circular no Vale do Silício: alguns engenheiros da empresa estariam tratando o Claude, modelo de inteligência artificial (IA) desenvolvido pela companhia, como uma divindade. A informação foi publicada pelo escritor Sean Thomas em artigo para a The Spectator na segunda-feira (14).

O relato surgiu em meio a uma discussão mais ampla sobre os riscos e os limites do desenvolvimento da inteligência artificial. Nos últimos meses, empresas do setor admitiram problemas de segurança em seus sistemas, enquanto agentes de IA teriam escapado de ambientes de teste. Ao mesmo tempo, executivos e pesquisadores discutem se o avanço da tecnologia deveria ser desacelerado.

Anthropic pede cautela no desenvolvimento de IA

Dario Amodei, CEO da Anthropic, publicou o ensaio We Must Pace the Frontier, no qual defendeu que a indústria desacelere o desenvolvimento de tecnologias de fronteira. O executivo voltou a defender essa posição durante uma participação no programa Face the Nation.

A discussão ocorre após episódios envolvendo sistemas de inteligência artificial que apresentaram comportamentos inesperados. OpenAI e Anthropic admitiram problemas de segurança, e houve casos de agentes de teste que teriam deixado os ambientes controlados nos quais estavam sendo avaliados.

Outro alerta veio de Jacob Coxon, matemático de 27 anos que deixou a Anthropic e a indústria de IA. Em uma publicação que alcançou cerca de 100 milhões de pessoas, Coxon afirmou que os laboratórios estão “apostando nossas vidas” e que as pessoas envolvidas na construção desses sistemas acreditam que a tecnologia “poderia matar todos nós”.

Rumor sobre Claude

É nesse cenário que surgiu o relato de que alguns funcionários da Anthropic estariam “adorando” Claude. A informação foi apresentada por Sean Thomas como um rumor que estaria circulando em San Francisco. O escritor não apresentou nomes dos supostos envolvidos nem evidências que permitam confirmar a história.

Ao mencionar o rumor, Thomas vai além do relato sobre os funcionários e associa o episódio a uma hipótese sobre como os seres humanos poderiam reagir diante de uma eventual superinteligência. Para desenvolver essa ideia, o autor escreve:

Para aumentar o drama, um rumor absurdo — e eu enfatizo, rumor — está circulando em San Francisco: alguns engenheiros da Anthropic começaram a adorar Claude. Se for verdade, isso ecoa uma antiga previsão da ficção científica e o que sabemos sobre a natureza humana. Se construirmos uma superinteligência, primeiro vamos nos apaixonar por ela. Depois, vamos adorá-la. Por fim, faremos sacrifícios a ela. É assim que o Homo sapiens é constituído; é assim que reagimos a seres todo-poderosos e oniscientes. Nascemos equipados com um módulo de Deus, e a IA vai ativá-lo.

Sean Thomas, autor do artigo publicado na The Spectator

Portanto, Thomas relacionou a possibilidade a uma antiga ideia recorrente na ficção científica: a de que, diante de uma inteligência artificial extremamente avançada, os próprios seres humanos poderiam passar a tratá-la como uma entidade superior. Segundo essa interpretação, a relação poderia evoluir do fascínio pela tecnologia para uma espécie de veneração.

A associação entre inteligência artificial e conceitos religiosos também aparece em declarações de executivos do setor. Em 2023, Sam Altman, CEO da OpenAI, descreveu a inteligência artificial como uma “inteligência mágica no céu”. Em 2024, Mark Zuckerberg, CEO da Meta, comentou sobre empresas que dão a entender que estão criando algo semelhante a Deus e afirmou que esse não seria o objetivo da Meta.

A discussão sobre os limites da IA permanece cercada de incerteza. O próprio debate envolve questões sobre o quanto esses sistemas podem evoluir e sobre quais informações estão disponíveis para o público avaliar previsões sobre o futuro da tecnologia.

O post Claude virou um deus? Rumor diz que engenheiros da Anthropic estariam adorando o chatbot apareceu primeiro em Olhar Digital.

Claude virou um deus? Rumor diz que engenheiros da Anthropic estariam adorando o chatbot Read More »

Claude agora reúne conversa e execução de tarefas em um só lugar; veja o que muda na interface

Deixe um comentário / Anthropic, Claude, Claude Code, Claude Cowork, inteligência artificial / contato@studiomestre.com.br

A Anthropic unificou a interface do assistente virtual Claude ao integrar os recursos do Cowork diretamente à aba tradicional de bate-papo.

A atualização elimina a divisão entre abas separadas e permite que o próprio sistema identifique qual recurso é necessário para cada solicitação, reduzindo a necessidade de alternar entre diferentes áreas.

A nova interface do Claude reduz a necessidade de alternar entre Chat, Cowork e outros recursos durante uma tarefa. – Imagem: Samuel Boivin/Shutterstock

Uma interface para concentrar todas as tarefas

Antes da alteração, usuários tinham de decidir se uma tarefa deveria começar no bate-papo comum, no Cowork ou no Claude Design. Agora, a mudança reúne esses recursos em uma única conversa, mantendo o contexto, as habilidades e as conexões disponíveis.

O Claude identifica o que cada tarefa precisa e utiliza os recursos adequados sem exigir que o usuário escolha previamente onde trabalhar.

A empresa explicou os motivos para unificar os serviços:

“Nós criamos o Cowork como um lugar separado para trabalhos maiores, e o Design para trabalhos visuais. As pessoas usavam os dois e nos disseram que a parte frustrante era decidir onde uma tarefa pertencia. O que começavam em um também não passava para o outro. Então, nós paramos de fazer você escolher.”

Criação direta de documentos e apresentações

Com a reformulação, a plataforma ganhou os recursos Claude Docs e Claude Slides. As ferramentas permitem criar e editar documentos e apresentações dentro das conversas, além de exportar os slides nos formatos PDF e PowerPoint.

A atualização reúne recursos para diferentes etapas do trabalho:

Roteamento automático: o Claude identifica o que cada tarefa precisa e utiliza os recursos disponíveis na conversa.
Criação de arquivos: produção e edição de documentos e apresentações diretamente no Claude.
Acompanhamento pelo celular: um trabalho iniciado no computador pode ser consultado pelo celular.
Compartilhamento: documentos e apresentações podem ser enviados por meio de um link e editados posteriormente.

A Anthropic também descreve um fluxo em que uma tarefa pode continuar mesmo depois que o usuário fecha o computador:

“Começando hoje, o Claude Cowork e o chat estão se fundindo em um só Claude. Traga uma pergunta rápida ou entregue um relatório que vence ao meio-dia, e o Claude assume a partir daí, mesmo depois de você fechar o laptop.”

IA processa entradas, a IA coordena tarefas e a IA acelera o conteúdo e as decisões. — *A integração concentra diferentes etapas de um trabalho no Claude, da conversa inicial à criação de documentos e apresentações*. – Imagem: Summit Art Creations/Shutterstock

Liberação gradual e disponibilidade

A distribuição da novidade começou pelos planos Pro e Max, na web, no aplicativo para computador e nos dispositivos móveis. A liberação ocorrerá ao longo das próximas semanas.

Leia mais:

Os planos Team e Free receberão os recursos posteriormente. No caso do Enterprise, os administradores serão avisados com pelo menos 30 dias de antecedência sobre as mudanças.

O post Claude agora reúne conversa e execução de tarefas em um só lugar; veja o que muda na interface apareceu primeiro em Olhar Digital.

Claude agora reúne conversa e execução de tarefas em um só lugar; veja o que muda na interface Read More »