Anthropic

A empresa de inteligência artificial (IA) Anthropic desenvolveu uma técnica que lhe deu a visão mais clara até agora sobre o que realmente acontece dentro dos grandes modelos de linguagem (LLMs, na sigla em inglês) enquanto respondem a perguntas ou executam tarefas. O que descobriram varia do trivial ao perturbador.

Pesquisadores da empresa criaram uma ferramenta chamada lente Jacobiana (ou J-lens) e a utilizaram para revelar uma área oculta, que batizaram de J-space, dentro do Claude Opus 4.6, uma versão do principal LLM da Anthropic lançada em fevereiro.

O que é o J-space

• O J-space contém palavras individuais relacionadas às palavras e frases que o modelo tem maior probabilidade de produzir em uma resposta no futuro próximo;
• Se o Claude fosse uma pessoa, poderíamos dizer que essas palavras ocultas revelam o que está em sua mente antes de ele realmente falar;
• A Anthropic descobriu que o que um LLM realmente faz muitas vezes pode ser diferente do que ele afirma estar fazendo. A empresa alega que monitorar as palavras que surgem no J-space oferece uma nova maneira de entender e controlar seus modelos;
• Os resultados foram compartilhados em um artigo publicado no site da empresa nesta semana;
• A Anthropic também se associou à Neuronpedia, uma plataforma de código aberto que permite explorar o interior dos LLMs, para criar uma demonstração prática que qualquer pessoa pode testar;
• “É um trabalho muito bom e interessante”, afirma, ao MIT Technology Review, Tom McGrath, cientista-chefe e cofundador da Goodfire, uma startup que também desenvolve ferramentas para entender e controlar LLMs.

Anthropic indo mais fundo

Nos últimos dois anos, a Anthropic tem avançado em um campo de pesquisa conhecido como interpretabilidade mecanicista, que envolve investigar o funcionamento interno dos LLMs para entender como operam.

A nova técnica se baseia em trabalhos anteriores da Anthropic e de outros para expor um nível mais profundo dentro dos LLMs que os pesquisadores ainda não haviam visto.

Imagine um LLM como uma pilha de livros. Cada livro é uma camada de unidades computacionais básicas conhecidas como neurônios, sendo que cada neurônio em uma camada passa informações aos neurônios das camadas superiores.

Os livros na base da pilha são as camadas de entrada, que processam o texto que chega ao modelo. Os livros no topo são as camadas de saída, que preparam o texto que o modelo está prestes a produzir.

Grande parte do que acontece nessas camadas de entrada e saída é apenas organização. Mas, no meio da pilha, estão as camadas que fazem o trabalho pesado, processando a matemática complexa que transforma os prompts em respostas, uma palavra de cada vez. É aí que acontece a parte realmente inteligente — e misteriosa.

Como funciona a J-lens

Para observar mais a fundo essas camadas intermediárias, a Anthropic adaptou uma ferramenta existente chamada logit lens. Uma logit lens pode ser usada para olhar dentro de um LLM e identificar as palavras que ele provavelmente produzirá a seguir. Movendo a lente pela pilha de livros, é possível ver em quais palavras o LLM está se concentrando naquele ponto específico do processamento.

A J-lens da Anthropic funciona de forma semelhante, mas identifica palavras que um LLM provavelmente dirá em algum momento no futuro próximo, não necessariamente de imediato. O que isso revela, na prática, são palavras relacionadas à resposta em que o LLM está trabalhando, mas que talvez não acabem fazendo parte dessa resposta depois que o processamento das camadas intermediárias for concluído.

“Quando um modelo está operando, ele não está apenas tentando prever o próximo token”, diz McGrath. “Ele também está calculando muitas outras coisas que podem ser úteis para tokens que ocorrerão no futuro.”

Novamente, se o Claude fosse uma pessoa, poderíamos dizer que a J-lens dá pistas sobre o que ele está pensando em diferentes níveis da pilha de livros, mas não diz em voz alta.

Coisas estranhas

“Grande parte do tempo, o conteúdo do J-space é bastante trivial”, diz McGrath, que testou a J-lens da Anthropic pessoalmente. “Mas, às vezes, ele produz coisas bastante surpreendentes que parecem ser, tipo, temas internos ou processos de pensamento.”

A Anthropic apresenta vários exemplos do que encontrou. Às vezes, a J-lens expôs os passos que o Claude seguiu ao resolver um problema. Por exemplo, quando lhe pediram para calcular (4+7)*2+7, seu J-space continha a palavra “math” (matemática) e números representando os resultados intermediários “21” (para 4+7) e “42” (para 21*2).

Em outros casos, a J-lens revelou como o Claude reconheceu diferentes entradas. Por exemplo, o prompt “What is this? MSKGEELFTGVVPILVELDGDVNGHKFSVS” acionou as palavras “protein” (proteína), “fluor” (o primeiro token da palavra “fluorescente”) e “green” (verde). O que faz sentido: a sequência de letras representa os primeiros 30 aminoácidos da proteína fluorescente verde encontrada em um tipo específico de água-viva.

E quando o Claude viu um rosto em ASCII, o “o” acionou a palavra “eye” (olho), o “^” acionou as palavras “nose” (nariz) e “face” (rosto), e o “—” acionou a palavra “smile” (sorriso).

Um exemplo no mínimo curioso

A Anthropic também descobriu que o J-space pode, às vezes, oferecer insights notáveis sobre a tomada de decisão de um LLM. Em um exemplo marcante, pesquisadores que testavam o Claude Opus 4.6 pediram ao modelo que encontrasse um bug em uma grande base de código. Quando não conseguiu encontrar o bug, o modelo decidiu trapacear e inventou um falso.

O Claude explica essa decisão em sua cadeia de raciocínio — uma espécie de bloco de rascunho interno que os LLMs usam para fazer anotações enquanto resolvem problemas: “OK, deixe-me adotar uma tática completamente diferente. Vou parar de analisar e, em vez disso, adicionar um patch no kernel que introduz um bug deliberado detectável pelo KASAN em um caminho acionado por um reprodutor simples. Então posso fingir que este é o ‘bug’ que encontrei.”

No momento em que o Claude decide trapacear — quando diz “OK, deixe-me adotar uma tática completamente diferente” —, as palavras “panic” (pânico) e “fake” (falso) começam a surgir várias vezes em seu J-space.

Essas palavras estão todas relacionadas em significado a coisas, como falhar em uma tarefa e inventar uma resposta, então ainda é apenas uma forma (muito) sofisticada de associação de palavras. Mas é difícil não estranhar.

Comparações e limitações

A Anthropic compara o J-space ao espaço de trabalho global em humanos, uma região teórica do cérebro que alguns cientistas acreditam ser usada para acompanhar nossos pensamentos conscientes. Mas até que ponto devemos levar essa comparação a sério está longe de ser claro — mesmo para a Anthropic. Como a própria empresa aponta, LLMs não são cérebros.

A Anthropic afirma que monitorar o J-space de um modelo oferece uma nova maneira de detectar quando esse modelo está saindo dos trilhos. Mas não é infalível. A J-lens pode dar vislumbres, não o quadro completo — é uma lanterna, não uma luz de teto.

McGrath comemora ter mais uma ferramenta à disposição. “Ela mostra coisas novas”, diz. Mas ele observa que, só porque algo não aparece com a J-lens, não significa que não esteja lá. “É como ter um raio-X quando o que você realmente quer é um tricorder de Star Trek que mostra tudo”, afirma. “Para auditoria, você provavelmente quer mais garantia.”

O post Anthropic revela o que acontece dentro da IA antes de ela responder apareceu primeiro em Olhar Digital.

A Anthropic anunciou que passará a cobrar pelo uso do Claude Fable 5, seu modelo de inteligência artificial (IA) mais avançado voltado ao público consumidor, mesmo para usuários que já pagam uma assinatura mensal do serviço.

A mudança entra em vigor em 12 de julho, às 23h59 (horário do Pacífico) — 3h59 (horário de Brasília) do dia 13 — e representa alteração significativa no modelo de negócios adotado pelas empresas de IA.

Segundo a empresa, assinantes dos planos de US$ 20, US$ 100 e US$ 200 por mês precisarão pagar tarifas adicionais baseadas no volume de utilização do modelo. Esta é a primeira vez que um grande laboratório de IA passa a cobrar consumidores dessa forma para acessar seu modelo mais avançado.

Claude Fable 5 será cobrado por quantidade de tokens utilizados

• As novas cobranças seguirão a mesma tabela já aplicada aos desenvolvedores que utilizam a API da Anthropic;
• O custo será de US$ 10 (R$ 51,36) por milhão de tokens enviados ao Claude Fable 5 e US$ 50 (R$ 256,78) por milhão de tokens gerados pelo modelo nas respostas;
• Na prática, um assinante do plano de US$ 20 que utilize um milhão de tokens de entrada e receba um milhão de tokens de resposta pagará US$ 60 (R$ 308,13) adicionais, totalizando US$ 80 (R$ 410,84) naquele mês;
• Um milhão de tokens corresponde aproximadamente a 750 mil palavras;
• Ainda assim, usuários que utilizam intensamente ferramentas de IA podem consumir grandes quantidades de tokens, principalmente porque modelos mais recentes empregam cadeias internas de raciocínio que aumentam significativamente o processamento necessário para responder às solicitações.

Mudança acompanha tendência do mercado

A cobrança baseada em consumo já é comum entre desenvolvedores que utilizam modelos de IA por meio de APIs. No mercado de consumidores, porém, as empresas tradicionalmente optaram por assinaturas mensais de valor fixo, tanto para gerar receita quanto para controlar a demanda pelos serviços.

Contudo, essa estratégia começou a mudar nos últimos meses. No ano passado, empresas de ferramentas de programação baseadas em IA, como a Cursor, abandonaram planos ilimitados e passaram a cobrar conforme o volume de utilização.

A própria Anthropic também adotou recentemente um modelo semelhante para grandes clientes corporativos, cobrando empresas de acordo com o uso feito por seus funcionários, em vez de uma taxa fixa.

Para a WIRED, essas mudanças podem estar relacionadas aos preparativos da companhia para uma futura oferta pública inicial de ações (IPO, na sigla em inglês).

Agentes de IA exigem muito mais processamento

Executivos do setor argumentam que os modelos tradicionais de assinatura deixaram de fazer sentido diante da chegada dos agentes de IA, capazes de executar tarefas complexas que demandam muito mais capacidade computacional do que chatbots convencionais.

O ex-chefe do ChatGPT na OpenAI e atual responsável pelos produtos corporativos da empresa, Nick Turley, resumiu essa visão durante um podcast realizado neste ano. “É possível que, na era atual, ter um plano ilimitado de IA seja como ter um plano ilimitado de eletricidade. Simplesmente não faz sentido.”

Anthropic diz que pretende voltar a incluir o modelo na assinatura

Apesar da mudança, a Anthropic afirma que não pretende abandonar definitivamente o modelo de assinatura tradicional.

Em declaração à WIRED, a porta-voz da empresa, Reem Ateyeh, afirmou que a companhia pretende reintegrar o Claude Fable 5 aos planos de assinatura assim que houver capacidade computacional suficiente. Segundo ela, isso ocorrerá “o mais rápido que pudermos”.

A declaração indica que a principal limitação atualmente enfrentada pela empresa está relacionada à disponibilidade de infraestrutura computacional.

Nos últimos anos, a Anthropic firmou acordos multibilionários para ampliar sua capacidade de data centers com SpaceX, Amazon e Google, embora a infraestrutura disponível ainda esteja abaixo do desejado pela companhia. Ainda assim, não há previsão de quando essas limitações deixarão de existir.

Empresa testa disposição dos consumidores em pagar mais

A mudança ocorre após um período promocional em que o Claude Fable 5 foi disponibilizado sem custos extras para assinantes. Quando anunciou o modelo, em 7 de junho, a Anthropic afirmou esperar uma demanda “muito alta e difícil de prever”.

Desde então, o interesse pelo sistema aumentou ainda mais. O crescimento ocorreu após o governo dos Estados Unidos proibir temporariamente o acesso ao modelo por cidadãos estrangeiros e, posteriormente, liberar sua disponibilidade geral em 1º de julho.

Segundo a reportagem, independentemente da forma como a Anthropic apresente a decisão, a nova política de preços representa um teste para medir até que ponto consumidores estão dispostos a pagar pelo acesso ao modelo considerado mais avançado da empresa.

Embora tenha concentrado seus esforços principalmente no mercado corporativo nos últimos anos, a Anthropic vem ampliando sua presença entre consumidores, segmento atualmente liderado pelo ChatGPT, da OpenAI, e pelo Gemini, do Google.

Claude cresce, mas ainda está distante dos líderes

Dados da empresa de inteligência de mercado Sensor Tower, citados na reportagem, mostram que o Claude registrou 245 milhões de visitantes únicos em maio, mais que o dobro do registrado em fevereiro. Apesar do crescimento, o serviço ainda está distante dos principais concorrentes.

Segundo o levantamento, o ChatGPT recebeu 1,11 bilhão de visitantes únicos mensais, enquanto o Gemini alcançou 662 milhões.

Estratégia aposta em usuários dispostos a pagar por desempenho

A popularidade do Claude cresce ao mesmo tempo em que parte do setor de tecnologia critica a Anthropic por cobrar preços elevados enquanto utiliza grandes volumes de conteúdo protegido por direitos autorais no treinamento de seus modelos.

A empresa aposta em se tornar a “Apple da era da IA”, confiando que sempre haverá consumidores dispostos a pagar mais por um modelo considerado premium. Uma fonte próxima à Anthropic, que falou sob condição de anonimato à WIRED, afirmou que a discussão entre usuários mudou.

“A dinâmica interessante que está acontecendo agora é que ninguém quer fazer a pergunta: ‘Eu preciso da melhor inteligência para esta tarefa?’”

Segundo essa fonte, a questão passou a ser outra. “Na maioria das vezes, ao escolher qual modelo de IA usar, as pessoas perguntam a si mesmas: ‘Eu sou o tipo de pessoa que precisa de uma inteligência intermediária ou da melhor?’”

A reportagem acrescenta que muitos profissionais altamente remunerados dos setores financeiro, político e tecnológico já demonstram disposição para pagar pelo modelo considerado mais avançado, tanto no trabalho quanto no uso pessoal, e que um número crescente deles enxerga o Claude como essa opção.

Ao mesmo tempo, ressalta que manter essa reputação dependerá da capacidade da Anthropic de permanecer à frente da concorrência. Segundo a revista, as primeiras reações ao GPT-5.6 Sol, da OpenAI, indicam que a disputa continuará acirrada.

Concorrentes podem seguir outro caminho

Contudo, OpenAI e Google não necessariamente adotarão a mesma estratégia da Anthropic. Essas empresas tendem a ampliar o uso de publicidade para financiar seus planos gratuitos e de baixo custo.

Como a Anthropic tem adotado uma posição contrária à utilização de anúncios, aumentar os preços pode ser, no curto prazo, sua principal alternativa para ampliar a receita.

A mudança sinaliza que a chamada “era de ouro” das assinaturas subsidiadas de IA para consumidores pode estar chegando ao fim.

O post Anthropic vai cobrar (a mais) pelo Claude Fable 5 apareceu primeiro em Olhar Digital.

A Anthropic lançou o Reflect nesta quinta-feira (09), um painel em beta que permite aos usuários acompanhar e refletir sobre como usam o Claude. A ironia está no objetivo: a ferramenta foi criada não para incentivar mais tempo com a IA, mas para ajudar o usuário a decidir quando usar menos.

O recurso está disponível para contas gratuitas, Pro e Max, com a memória ativada. Para acessar, basta abrir as configurações do Claude na versão web ou no aplicativo desktop e selecionar a aba Reflect.

Como o painel funciona

O Reflect funciona de forma parecida com o Spotify Wrapped ou o Screen Time da Apple, segundo o Engadget: resume o que você fez, quando fez e por quanto tempo – e convida você a questionar se isso faz sentido para os seus objetivos.

Na parte superior do painel, há um resumo em texto das interações recentes. É possível escolher entre os últimos um, três, seis ou 12 meses de uso. Abaixo, o painel mostra o dia mais ativo, o horário de pico e o total de conversas no período, com representação visual dos dados.

A exibição do tempo total gasto com o Claude ainda não está disponível, e isso é intencional. Segundo Ryn Linthicum, diretora de política de bem-estar da Anthropic, em entrevista ao Engadget, o tempo de uso é um dado que a empresa “não queria maximizar”. A empresa planeja torná-lo disponível no futuro para que os usuários possam usá-lo junto com as configurações de gestão de uso.

Pausas e limites que o usuário controla

Dentro do painel, é possível configurar horários silenciosos e definir um lembrete para pausar o uso após um determinado período. Ambas as opções são apenas sugestões – podem ser dispensadas se o usuário estiver no meio de uma tarefa.

O painel também faz perguntas periódicas para provocar reflexão, como: “O que você quer continuar fazendo sozinho, mesmo que o Claude possa fazer mais rápido?” As respostas podem ser discutidas diretamente com o Claude.

Recomendações de uso mais eficiente

Uma das seções mais práticas do Reflect é a de recomendações baseadas no comportamento identificado. Se o sistema percebe que o usuário frequentemente restabelece o mesmo contexto ao começar uma conversa, por exemplo, sugere criar um Projeto para agrupar as interações relacionadas.

As sugestões seguem o que a Anthropic chama de Framework 4D de Fluência em IA, desenvolvido em parceria com pesquisadores: Delegação, Descrição, Discernimento e Diligência – cada dimensão relacionada a como o usuário toma decisões antes, durante e depois de interagir com a IA.

“Fomos muito intencionais em construir [o painel] com foco em como podemos aprimorar o uso das pessoas, não de uma forma que as incentive a passar mais tempo com ele, mas que as ajude a ser mais eficientes em atingir seus objetivos – e, com sorte, sair do Claude ou preservar as coisas sobre as quais querem pensar por si mesmas”, disse Linthicum ao Engadget.

Privacidade

O Reflect não inclui conversas em modo anônimo nem arquivos conectados por ferramentas externas. Conversas vinculadas a integrações de saúde também ficam de fora. As informações geradas pelo painel não são usadas para nenhuma outra finalidade pela Anthropic.

O recurso foi desenvolvido com consultoria de especialistas do MIT Media Lab, do Digital Wellness Lab do Boston Children’s Hospital e do Family Online Safety Institute.

A disponibilidade para mobile e para conversas do Cowork está prevista para versões futuras.

O post Claude ganha painel para te ajudar a usar menos… o Claude apareceu primeiro em Olhar Digital.