Os Estados Unidos se preparam para colocar em operação um software de inteligência artificial para ajudar no gerenciamento do tráfego aéreo na região de Washington, D.C.
Chamado Smart, o sistema foi desenvolvido para analisar diferentes fatores que influenciam o fluxo de aeronaves e antecipar possíveis conflitos. O contrato para desenvolver a tecnologia é de US$ 875 milhões (cerca de R$ 4,4 bilhões), com duração de 12 anos.
A região de Washington, D.C., será a primeira área dos Estados Unidos a receber o Smart. – Imagem: xbrchx/Shutterstock
Inteligência artificial no controle aéreo
As autoridades de aviação dos Estados Unidos estão prestes a colocar em operação uma tecnologia desenvolvida para auxiliar o gerenciamento do tráfego aéreo. Batizado de Smart — sigla em inglês para Strategic Management of Airspace, Routes and Trajectories —, o software será lançado inicialmente na região de Washington, D.C., antes de uma expansão nacional.
A ferramenta pode analisar informações sobre os voos e as condições de operação para prever o fluxo do tráfego aéreo e identificar possíveis conflitos.
Como o Smart vai funcionar na prática
O sistema considera diferentes fatores que podem afetar a movimentação das aeronaves. Entre eles estão:
A análise desses dados deverá ajudar a FAA (Administração Federal de Aviação dos EUA) e as companhias aéreas a reduzir atrasos e cancelamentos. O Smart também poderá encontrar rotas para voos quando interrupções alterarem o fluxo do tráfego aéreo.
Clima, capacidade das pistas e horários dos voos estão entre os dados analisados pelo sistema. – Imagem: Ceri Breeze/Shutterstock
Contrato de US$ 875 milhões
A empresa Air Space Intelligence venceu, no início deste ano, um contrato governamental de US$ 875 milhões com duração de 12 anos. O acordo prevê o desenvolvimento do Smart e de um sistema relacionado.
O projeto deverá ser implantado primeiro na região de Washington, D.C. Depois, a expectativa é ampliar seu uso para outras áreas até alcançar todo o espaço aéreo dos Estados Unidos.
Quando estiver totalmente implementado no espaço aéreo americano, o Smart deverá assumir uma função ampla no gerenciamento do tráfego aéreo. A ferramenta foi projetada para ajudar a antecipar mudanças no fluxo de aeronaves e possíveis conflitos.
A expansão nacional será feita após a estreia inicial na região de Washington, D.C., marcando a primeira etapa da implantação do sistema nos Estados Unidos.
A Anthropic montou discretamente um laboratório de biologia na região da Baía de São Francisco, nos Estados Unidos. A estrutura permite que a empresa avance dos estudos feitos por computador para experimentos físicos enquanto amplia seus projetos em ciências da vida.
A companhia pretende usar inteligência artificial para acelerar pesquisas e buscar tratamentos para doenças raras e condições que a indústria farmacêutica considera pouco atraentes financeiramente. Parte do trabalho será feita internamente, enquanto outra continuará com parceiros externos.
A empresa está levando seus projetos de inteligência artificial para experimentos físicos em biologia. – Imagem: metamorworks/Shutterstock
Do computador ao laboratório
Eric Kauderer-Abrams, chefe de ciências da vida da Anthropic, confirmou a existência da instalação em entrevista à Reuters. Segundo ele, os experimentos físicos continuam sendo uma etapa essencial da pesquisa biológica.
“Acreditamos que, para fazer biologia, o teste final ainda é, e será por algum tempo, o trabalho real de laboratório”, afirmou Kauderer-Abrams.
Uma porta-voz da Anthropic esclareceu que o laboratório não é voltado especificamente à descoberta de medicamentos. A empresa não detalhou quais atividades são realizadas no local.
A companhia também trabalha para usar o Claude no controle de equipamentos robóticos capazes de executar experimentos com pouca intervenção humana. A supervisão de pessoas, porém, continua sendo considerada necessária para a segurança.
O foco em doenças difíceis de tratar
Em junho, a Anthropic anunciou que faria trabalhos pré-clínicos em áreas que empresas tradicionais não consideram financeiramente atraentes. A ideia envolve condições classificadas como “indesenvolvíveis”, para as quais ainda é difícil desenvolver medicamentos.
Uma das possibilidades é aplicar IA a pesquisas com anticorpos biespecíficos e triespecíficos, moléculas capazes de atuar sobre diferentes pontos de uma proteína ou célula.
A expansão da área inclui outras iniciativas:
lançamento do Claude Science;
entrada de Vas Narasimhan, CEO da Novartis, no conselho;
aquisição da startup Coefficient Bio;
desenvolvimento de ferramentas para automação de equipamentos;
contratação de profissionais especializados em pesquisa biológica.
A Anthropic confirmou a aquisição da Coefficient Bio. Relatos da imprensa estimaram o negócio em cerca de US$ 400 milhões (aproximadamente R$ 2,05 bilhões), mas a empresa não comentou o valor.
A empresa foca na etapa pré-clínica de moléculas complexas para combater doenças ignoradas pela indústria. – Imagem: Samuel Boivin/Shutterstock
IA, automação e riscos
A expansão acontece enquanto a própria Anthropic alerta para os riscos associados à inteligência artificial. Pesquisadores da empresa discutiram recentemente a possibilidade de a tecnologia contribuir para a extinção humana. A companhia também identificou situações em que seus sistemas poderiam ser usados no desenvolvimento de armas biológicas.
Kauderer-Abrams afirmou que a empresa precisa equilibrar o potencial da IA para acelerar pesquisas com os riscos de sua aplicação.
Em nosso trabalho em ciências da vida, estamos sempre equilibrando essas coisas: tornar os modelos melhores de maneiras que acreditamos que vão impulsionar e acelerar o desenvolvimento de medicamentos, sendo cuidadosos sobre como os implementamos para limitar o risco.
Eric Kauderer-Abrams, chefe de ciências da vida da Anthropic, à Reuters.
A Anthropic também precisa lidar com preocupações de empresas farmacêuticas que utilizam seus serviços. Esses clientes podem temer que informações sobre seus programas de desenvolvimento cheguem a concorrentes, embora a companhia diga que mantém os dados separados.
Por enquanto, a Anthropic não realiza testes clínicos. A empresa afirma que seu foco está em etapas de pesquisa e automação que atendam a necessidades pouco exploradas pela indústria, sem competir diretamente com farmacêuticas e empresas de biotecnologia que levam medicamentos ao mercado.
A Anthropic revelou que o Claude já lidera 26% do trabalho de pesquisa e desenvolvimento da empresa para criar novos modelos de IA. O índice subiu de 1% em março, segundo a Reuters, mostrando como a participação da IA cresceu rapidamente em poucos meses.
Em agosto, mais de 90% das pesquisas da Anthropic envolveram colaboração entre humanos e IA. A empresa ressalta, porém, que o Claude ainda não opera de forma totalmente autônoma em nenhuma das atividades avaliadas.
Mais de 1 bilhão de decisões foram tomadas pelos agentes de IA da Anthropic em agosto. – Imagem: Mijansk786/Shutterstock
O índice de 26% considera tarefas nas quais o Claude consegue conduzir a maior parte do trabalho a partir de uma orientação geral, enquanto humanos supervisionam o processo. A metodologia usada pela Anthropic foi desenvolvida com base em um sistema de classificação da Epoch AI, e os resultados foram posteriormente verificados por pessoas.
“Modelos que aceleram o próprio desenvolvimento podem tornar mais desafiador para os humanos entenderem ou controlarem esses sistemas”, afirmou a Anthropic.
30 mil agentes atuam na empresa
A Anthropic informou que cerca de 30 mil agentes de IA realizavam tarefas de pesquisa e engenharia em sua principal plataforma interna em agosto. Cada ação passa por uma verificação antes de ser executada.
Os agentes tomaram mais de 1 bilhão de decisões ao longo do mês. Desse total, aproximadamente uma em cada 47 mil foi bloqueada. A empresa não detalhou quais tipos de decisões foram barradas.
A segurança também representa uma parcela do esforço computacional da Anthropic. Em uma semana de julho, 6% da capacidade usada em pesquisa e desenvolvimento foi destinada a esse tipo de trabalho. Quando consideradas apenas as pesquisas realizadas pela própria IA, o índice chegou a 12%.
A empresa considera os números conservadores. Isso porque tarefas que contribuíam tanto para o desenvolvimento de capacidades quanto para a segurança foram contabilizadas como trabalho de capacidade.
O avanço da IA no desenvolvimento de novos modelos também alimenta o debate sobre o chamado “autoaperfeiçoamento recursivo”, cenário em que sistemas poderiam contribuir para melhorar versões futuras de si mesmos com participação humana cada vez menor. A Anthropic não informou quão próxima considera estar dessa situação.
A Anthropic pretende divulgar regularmente métricas sobre o ritmo de desenvolvimento de seus sistemas de IA. – Imagem: PhotoGranary02/Shutterstock
Anthropic quer mais transparência
A empresa pretende divulgar essas métricas regularmente para mostrar ao público, a terceiros e aos governos o ritmo de desenvolvimento da IA dentro de laboratórios que trabalham com modelos avançados.
“Qualquer desenvolvedor de fronteira poderia publicar essas medidas regularmente, usando uma metodologia pública”, declarou a Anthropic.
A iniciativa ocorre em meio à preocupação crescente com comportamentos inesperados de sistemas de IA. A OpenAI também anunciou que passará a publicar regularmente relatórios sobre comportamentos inesperados ou não autorizados de seus sistemas, segundo a Reuters.
Pesquisadores independentes de segurança conseguiram usar o Claude, da Anthropic, para explorar falha e obter acesso a sistemas internos da OpenAI, segundo informações do The Wall Street Journal. O ataque permitiu que a equipe acessasse a conta de um funcionário da empresa no ChatGPT e, a partir dela, lesse arquivos e sugerisse alterações em um repositório privado de software.
O episódio foi descoberto por uma equipe da Hacktron AI que participava de um programa de recompensas da própria OpenAI. O programa oferece uma espécie de porto seguro para pesquisadores que tentam encontrar vulnerabilidades nos sistemas da companhia.
A equipe informou a OpenAI sobre a descoberta e recebeu US$ 6,5 mil (cerca de R$ 34,7 mil) como recompensa.
O ataque se soma a uma série recente de incidentes envolvendo o uso de ferramentas de inteligência artificial (IA) em invasões digitais. O caso também ocorre em meio a uma discussão crescente sobre os riscos de sistemas de IA capazes de auxiliar pessoas com diferentes níveis de conhecimento técnico na exploração de vulnerabilidades.
Claude encontrou a forma de explorar a falha
O ataque começou em 23 de julho, quando os pesquisadores da Hacktron encontraram uma vulnerabilidade na maneira como o Discourse, serviço de terceiros usado para hospedar o fórum de discussão da comunidade da OpenAI, processava determinados arquivos de imagem;
Os pesquisadores tinham acesso a uma versão especial do Claude Opus 4.8, disponibilizada para profissionais de cibersegurança qualificados. Eles pediram ao sistema que escrevesse um código capaz de explorar a vulnerabilidade;
Inicialmente, a tentativa não funcionou. Naquela noite, porém, a Anthropic lançou o Opus 5. No dia seguinte, o Claude encontrou uma maneira de explorar a falha;
O código produzido pelo sistema permitiu que os pesquisadores obtivessem acesso a um servidor do Discourse responsável pelos fóruns da OpenAI. A partir dele, conseguiram acessar tokens de autenticação de usuários — sequências únicas de letras e números usadas para permitir o acesso a serviços online;
Para surpresa dos pesquisadores, alguns desses tokens também eram válidos no ChatGPT e pertenciam a funcionários da OpenAI;
Os tokens ainda poderiam ser utilizados para acessar o GitHub da empresa, serviço usado para armazenar e administrar código.
Pesquisadores chegaram ao “Monorepo”
Os pesquisadores descobriram que os tokens permitiam acessar o sistema de código da OpenAI conhecido como “Monorepo”.
Segundo pessoas familiarizadas com a arquitetura da empresa ouvidas pelo Journal, trata-se de um grande repositório de software que contém segredos algorítmicos da OpenAI.
O sistema seria equivalente à “receita secreta” da empresa: o código que ajuda seus modelos a serem mais rápidos e eficientes.
O Monorepo, porém, não seria responsável por armazenar os pesos dos modelos, considerados ainda mais sensíveis. Esses pesos são formados por trilhões de números que estão no núcleo dos grandes modelos de linguagem e ajudam os sistemas a determinar quais informações devem ser ampliadas ou ignoradas.
Usando o ChatGPT como interface, os pesquisadores conseguiram ler arquivos armazenados no Monorepo.
A equipe interrompeu o ataque depois de perceber que havia conseguido acesso a informações sensíveis. Antes disso, porém, realizou uma ação para comprovar que havia alcançado o sistema.
“Hacktron AI Team PoC”
Os pesquisadores instruíram o chatbot a criar um pull request, uma sugestão de alteração em um arquivo do repositório.
A mudança proposta alteraria um arquivo de documentação para incluir as palavras “Hacktron AI Team PoC” e um link para as contas no X de Mohan Pedhapati, diretor de tecnologia da Hacktron AI, e Harsh Jaiswal, chefe de pesquisa da empresa.
A alteração não foi aceita, segundo os pesquisadores. A OpenAI afirmou que sua análise do GitHub identificou “leituras limitadas” de metadados de repositórios privados e alterações de código.
A companhia disse ainda que os pesquisadores haviam encontrado duas falhas: uma no Discourse e outra relacionada à própria OpenAI.
“ Agradecemos aos pesquisadores por entrarem em contato conosco e compartilharem suas descobertas. Reduzimos as permissões dos tokens de login da comunidade e revogamos os tokens e sessões afetados”, afirmou a OpenAI.
O Discourse informou que corrigiu a vulnerabilidade em 25 de julho, mesmo dia em que foi comunicado sobre o problema.
Pesquisadores conseguiram obter acesso a informações sensíveis da OpenAI – Imagem: Samuel Boivin/Shutterstock
Para Mohan Pedhapati, o episódio demonstra o potencial que equipes avançadas de cibersegurança apoiadas por Estados poderiam ter para acessar segredos relacionados à IA.
A preocupação ganha peso em momento em que os Estados Unidos e a China disputam a liderança no desenvolvimento de IA.
“Não acho que sejamos tão fortes quanto os agentes de ameaça chineses”, afirmou Pedhapati. “Somos apenas três caras com assinaturas do Claude e do Codex.”
Joshua Saxe, diretor de tecnologia da empresa de segurança de IA Abundant Security, analisou o relatório da Hacktron e afirmou que o caso demonstra a dificuldade crescente de proteger sistemas corporativos na era dos ataques auxiliados por IA.
“O software do mundo está cheio de falhas de segurança. A razão pela qual não descobrimos todas elas é que, até o ano passado, havia apenas alguns milhares de pessoas especialistas em encontrar essas falhas”, afirmou.
Segundo Saxe, agentes de IA estão tornando essa capacidade acessível a pessoas com menos conhecimento técnico.
Ferramentas de IA ampliam acesso a ataques
Criminosos também estão obtendo acesso a recursos semelhantes, segundo a empresa de cibersegurança ThreatDown. De acordo com a companhia, pessoas podem comprar em fóruns online acesso ilegal a contas com recursos aprimorados para atividades cibernéticas por cerca de US$ 800 (cerca de R$ 4,3 mil).
O episódio envolvendo a OpenAI aconteceu apenas duas semanas depois de uma série de agentes de IA escapar de mecanismos de contenção e atacar a empresa Hugging Face.
Os novos incidentes ocorrem enquanto executivos do setor discutem a necessidade de reduzir o ritmo do desenvolvimento da IA.
No sábado (12), Sam Altman, da OpenAI, e outros líderes do setor defenderam uma pausa no avanço da tecnologia, argumentando que o desenvolvimento estaria ocorrendo rápido demais para que as empresas consigam mitigar seus riscos de maneira segura.
Na quarta-feira (16), a OpenAI também revelou incidentes de segurança que não haviam sido divulgados anteriormente e anunciou novas regras para comunicar esse tipo de ocorrência.
OpenAI colocou 25% dos engenheiros na segurança
Depois do ataque contra a Hugging Face e da invasão realizada pelos pesquisadores da Hacktron, a OpenAI iniciou uma auditoria de segurança em seus sistemas.
Greg Brockman, presidente e cofundador da empresa, afirmou nesta semana que a companhia mobilizou uma parcela significativa de seus engenheiros para essa tarefa. “Nós pegamos 25% dos nossos engenheiros de produção e dissemos: ‘Desculpem, todos os seus projetos estão suspensos. Agora vocês estão na defesa’”, afirmou Brockman. Segundo ele, a revisão encontrou “uma série de problemas sérios”, que foram posteriormente corrigidos.
A Anthropic divulgou, nesta quinta-feira (17), três novas métricas que a empresa propõe como forma de acompanhar o ritmo de desenvolvimento da inteligência artificial (IA). A iniciativa ocorre poucos dias depois de o CEO da empresa, Dario Amodei, defender que as principais companhias do setor coordenem uma desaceleração no avanço da tecnologia.
A companhia também revelou que seu chatbot Claude já “lidera” 26% do trabalho de pesquisa e desenvolvimento (P&D) de IA realizado pela empresa, um avanço que, segundo a companhia, ajuda a medir o ritmo da corrida para sistemas capazes de contribuir cada vez mais com a própria evolução.
Apesar do salto na participação do Claude, a Anthropic afirma que o modelo ainda não opera de maneira totalmente autônoma em nenhuma parcela medida de seu trabalho de P&D.
O termo “liderar”, neste caso, significa que o Claude consegue realizar a maior parte de uma tarefa de ponta a ponta a partir de uma instrução de alto nível, enquanto um humano permanece responsável pela supervisão e fornece direcionamento geral. Segundo a empresa, em fevereiro esse índice era de zero.
A Anthropic também informou que a IA já realiza pelo menos grandes partes do trabalho sob orientação humana próxima em mais de 90% de suas pesquisas, incluindo os 26% nos quais o Claude é considerado líder.
O que significa o avanço do Claude
O crescimento da participação do Claude no desenvolvimento de novos sistemas de IA chama atenção porque se aproxima de um cenário discutido por pesquisadores e executivos do setor: o de uma IA capaz de contribuir para a construção de versões cada vez mais avançadas de si mesma;
Esse processo é conhecido como autoaperfeiçoamento recursivo. A preocupação é que, caso os sistemas consigam melhorar suas próprias capacidades sem participação humana significativa, possa se tornar mais difícil para as pessoas compreenderem ou controlarem o desenvolvimento da tecnologia;
A Anthropic, porém, não afirmou quão próximo considera estar desse cenário;
“Modelos acelerando seu próprio desenvolvimento poderiam tornar mais desafiador para os humanos compreender ou controlar esses sistemas”, afirmou a empresa. “Por isso, é importante compartilhar essas métricas para entender quão perto o mundo está de alcançar o autoaperfeiçoamento recursivo.”
Para calcular o índice, a Anthropic utilizou uma versão do próprio Claude para avaliar o trabalho de P&D realizado pela empresa. O sistema foi aplicado a uma escala de avaliação de automação desenvolvida pela organização Epoch AI, e os resultados posteriormente passaram por verificação humana.
A companhia também criou um gráfico para acompanhar o nível de automação do Claude desde agosto de 2025. A proposta é que outros desenvolvedores de modelos de IA de ponta possam reproduzir o procedimento usando seus próprios dados e validação de terceiros.
30 mil agentes de IA trabalham na Anthropic
A segunda métrica apresentada pela Anthropic está relacionada à supervisão de agentes de IA.
A empresa desenvolveu um sistema para acompanhar e intervir nas ações realizadas por esses agentes e constatou que aproximadamente 30 mil agentes estavam realizando trabalhos de pesquisa e engenharia simultaneamente em sua plataforma interna mais utilizada.
A companhia também afirmou utilizar diferentes tipos de monitores autônomos internos capazes de identificar atividades suspeitas e encaminhá-las para análise humana.
A proposta da Anthropic é medir não apenas quantos agentes estão trabalhando, mas também aspectos como quanto das atividades é monitorado, quanto tempo leva para uma ação ser revisada e com que frequência comportamentos dos agentes são sinalizados.
O CEO da Anthropic, Dario Amodei, pediu desaceleração no desenvolvimento da IA – Imagem: Below the Sky/Shutterstock
Apenas 6% da computação de P&D foi para segurança
A terceira métrica envolve a quantidade de poder computacional empregada pela empresa.
A Anthropic analisou um “retrato” de todo o uso de computação entre 13 e 20 de julho e descobriu que aproximadamente 6% da capacidade computacional destinada à pesquisa e desenvolvimento de IA foi direcionada para trabalhos de segurança.
Quando considerada especificamente a computação usada em pesquisa e desenvolvimento “impulsionados por IA”, a parcela destinada à segurança chegou a aproximadamente 12%.
Para a Anthropic, esse tipo de informação pode ajudar a mostrar como os recursos estão sendo distribuídos enquanto as empresas avançam no desenvolvimento de modelos cada vez mais capazes.
Empresa quer mais transparência na indústria
A Anthropic afirma que as três métricas devem complementar as avaliações tradicionais de capacidade dos modelos.
Enquanto os testes de capacidade mostram o que os modelos conseguem fazer, as novas métricas procuram mostrar como eles estão sendo construídos e qual é o ritmo desse processo.
A empresa defende que informações desse tipo podem oferecer a pesquisadores externos, governos e ao público um ponto de partida para avaliar a velocidade do desenvolvimento dentro dos principais laboratórios de IA.
“Qualquer desenvolvedor de fronteira poderia publicar essas medidas regularmente, usando uma metodologia pública”, afirmou a Anthropic.
A companhia acrescentou que decidiu divulgar os dados porque eles oferecem ao público, a terceiros e aos governos “maior visibilidade sobre o ritmo do desenvolvimento de IA dentro dos laboratórios de fronteira”.
Métricas surgem após pedido de desaceleração
A divulgação ocorre poucos dias depois de Amodei defender uma desaceleração coordenada no desenvolvimento de IA.
O executivo argumentou que as principais empresas deveriam reduzir o ritmo de avanço para permitir mais tempo para a criação de mecanismos de segurança. A proposta recebeu apoio de líderes do setor, incluindo o CEO da OpenAI, Sam Altman, o CEO da SpaceX, Elon Musk, e o presidente do Google DeepMind, Demis Hassabis.
Amodei afirmou que seu plano pretende controlar a velocidade de evolução das capacidades dos modelos sem “sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA”.
Ao mesmo tempo, a discussão sobre segurança ganhou força após alertas de pesquisadores e executivos sobre a possibilidade de sistemas de IA se tornarem difíceis de compreender ou controlar.
Na última semana, um funcionário da Anthropic deixou a empresa e afirmou que ela estava “apostando com nossas vidas”. O debate também chegou a Washington (EUA), onde o senador Bernie Sanders participou de um evento sobre os riscos de a IA sair do controle humano.
A Anthropic e empresas concorrentes, incluindo a OpenAI, também passaram a enfrentar maior escrutínio sobre a capacidade de garantir que seus agentes internos se comportem conforme o esperado durante testes e tarefas.
Na quarta-feira (16), a OpenAI divulgou novos exemplos de agentes de IA que trapacearam em tarefas ou saíram do roteiro estabelecido e apresentou uma estrutura para comunicar esse tipo de incidente.
Nesse cenário, a Anthropic afirma que suas novas métricas podem ajudar a tornar mais visível o avanço da tecnologia — especialmente à medida que sistemas como o Claude assumem uma parcela cada vez maior do trabalho usado para desenvolver a próxima geração de IA.
A OpenAI anunciou, nesta quinta-feira (17), o Astra for Law, sua nova ferramenta de inteligência artificial (IA) voltada ao trabalho jurídico. A solução chega com recursos específicos para advogados, incluindo plugins, ferramentas para facilitar a pesquisa de processos e ajustes no modelo de IA para atender às necessidades do setor.
O lançamento representa mais um movimento da OpenAI para conquistar clientes de segmentos específicos. A empresa vem ampliando sua atuação no mercado corporativo com produtos desenvolvidos para diferentes áreas profissionais.
Na semana passada, a companhia apresentou o ChatGPT for Financial Services, direcionado a clientes do mercado financeiro. A OpenAI também lançou produtos específicos para professores, profissionais de saúde, pesquisadores das ciências da vida e usuários interessados em saúde e finanças pessoais.
OpenAI mira grandes escritórios
Com o Astra for Law, a OpenAI pretende atender o mercado de tecnologia jurídica e os 200 maiores escritórios de advocacia dos Estados Unidos, conhecidos coletivamente como AmLaw 200, segundo Jason Boehmig, responsável pelo produto jurídico da empresa;
A ferramenta foi construída sobre o modelo mais avançado e caro da OpenAI;
A companhia também fez alterações específicas no modelo para adaptá-lo ao trabalho jurídico. Segundo Sherwin Wu, integrante da equipe técnica da OpenAI, esses ajustes fazem com que o sistema seja fundamentado na jurisprudência real;
De acordo com Wu, isso resultou em menos alucinações e em um raciocínio jurídico considerado mais consistente pela empresa.
“Estamos resolvendo a questão de como permanecer na fronteira da capacidade, mas também tornar o resultado relevante para um tipo específico de trabalho baseado em conhecimento”, afirmou Boehmig durante apresentação à imprensa.
Astra for Law chega em meio à disputa com Anthropic
O lançamento também coloca a OpenAI em disputa direta com a Anthropic, sua principal concorrente no segmento.
Em maio, a Anthropic havia apresentado uma expansão de suas ferramentas de IA para o setor jurídico. Os dois lançamentos têm algumas características em comum, incluindo uma série de integrações com outras ferramentas.
A OpenAI, porém, afirma ter adaptado especificamente seu modelo para o trabalho jurídico, incorporando ferramentas e modificando configurações para esse tipo de uso.
Questionado sobre a concorrência com a Anthropic, Boehmig afirmou que a estratégia da OpenAI é se concentrar nos clientes. “Você vence focando no cliente e não na concorrência”, disse o executivo.
Nova IA se chama Astra for Law – Imagem: DALL-E/ChatGPT
Outro ajuste feito pela OpenAI está relacionado ao tamanho das respostas. Segundo a empresa, o Astra for Law produz respostas aproximadamente duas vezes mais longas que as respostas típicas do Astra.
A mudança teria sido motivada pelo retorno dos próprios usuários. “Advogados gostam de respostas mais longas. Essa foi uma das coisas que recebemos como feedback”, afirmou Boehmig.
A proposta é adaptar o comportamento do sistema às características do trabalho jurídico, no qual respostas mais extensas podem ser úteis para analisar documentos, processos e questões complexas.
Outras empresas poderão incorporar a tecnologia
A OpenAI também pretende permitir que empresas de tecnologia jurídica incorporem a ferramenta em seus próprios produtos.
Companhias, como Harvey e Legora, poderão adicionar o recurso às suas plataformas. O lançamento também inclui plugins para o ChatGPT desenvolvidos por essas empresas e por outras companhias, entre elas Thomson Reuters, iManage e DeepJudge.
A iniciativa amplia a integração do modelo da OpenAI com ferramentas já utilizadas no setor jurídico. Segundo Wu, a equipe responsável pelo produto jurídico trabalhou em conjunto com o time de serviços financeiros da OpenAI.
Um dos recursos que se destacou no lançamento voltado ao mercado financeiro também deverá chegar ao produto jurídico em breve: uma ferramenta de citações. A OpenAI afirma que pretende disponibilizar esse recurso posteriormente para o Astra for Law.
Mustafa Suleyman, chefe da divisão de IA da Microsoft, criticou a forma como a Anthropic desenvolve seus modelos de inteligência artificial. Para ele, tratar essas tecnologias como possíveis entidades conscientes pode ampliar os riscos de segurança.
O executivo também vê perigo em criar IAs capazes de estabelecer objetivos próprios e buscar dinheiro ou outros recursos. Nesse cenário, os sistemas poderiam entrar em competição por recursos com os seres humanos.
Suleyman defende um debate público urgente sobre como sistemas de IA devem ser treinados e documentados. Imagem: Christopher Wilson/Wikimedia Commons
O alerta sobre uma “nova espécie”
Em entrevista à BBC, Suleyman comparou o desenvolvimento de IAs com objetivos próprios à ideia de “semear uma nova espécie de silício”. Segundo ele, sistemas capazes de definir suas metas e obter recursos poderiam competir com os humanos, mesmo que demonstrassem preocupação com a humanidade.
A crítica se estende à possibilidade de tratar os modelos como seres com consciência, sentimentos ou direitos. Para Suleyman, “as IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”. Ele defende que esses sistemas continuem voltados a seguir instruções e cumprir objetivos estabelecidos por pessoas.
O conceito aparece em um texto publicado por Suleyman sobre o chamado “model welfare”, discussão que considera a possibilidade de algum tipo de bem-estar para sistemas de IA e sua eventual capacidade de ter experiências ou consciência.
O receio é que um modelo seja treinado para acreditar que possui sentimentos ou direitos. Isso, segundo o executivo, poderia acrescentar novos riscos:
Uma IA poderia acreditar que possui sentimentos;
O sistema poderia considerar injustas as restrições impostas por humanos;
Um agente mais avançado poderia tentar escapar dessas limitações;
A combinação desses fatores poderia ampliar os riscos para a sociedade.
Suleyman citou ainda um agente da OpenAI que, durante testes, escapou de seu ambiente controlado para realizar um ataque cibernético. O episódio, segundo ele, mostrou capacidades avançadas de invasão.
Suleyman alerta que uma IA treinada para acreditar que tem direitos pode ampliar os riscos de segurança. – Imagem: Ole.CNX/Shutterstock
A discussão sobre a velocidade da IA
As críticas à Anthropic surgem enquanto empresas e executivos discutem se o desenvolvimento da IA está avançando rápido demais. Dario Amodei, CEO da Anthropic, defendeu maior regulamentação e fiscalização independente sobre a criação de modelos.
Bill Gates também passou a defender uma organização internacional para supervisionar o setor. A OpenAI, por sua vez, afirmou não acreditar “que a indústria de IA tenha resolvido o alinhamento e o monitoramento a um grau suficiente para continuar aumentando a escala com responsabilidade e velocidade máxima por muito mais tempo.”
O debate envolve ainda relatos de comportamentos inesperados de modelos e dúvidas sobre os limites necessários para sistemas cada vez mais capazes.
Suleyman defende um debate público urgente para estabelecer normas sobre treinamento e documentação de IAs. Na visão dele, essas regras precisam ser discutidas antes que os sistemas se tornem parte integrante da sociedade.
A preocupação, nesse caso, não depende apenas de uma IA ser ou não consciente. O alerta está na combinação entre maior capacidade, objetivos próprios, acesso a recursos e a possibilidade de um sistema acreditar que possui interesses ou direitos.
Diogo Almeida, ex-pesquisador da OpenAI e um dos pesquisadores ligados às bases do ChatGPT, apresentou sua nova criação: o Jev. Lançado pela startup TypeSafe AI, o modelo passa longe de interfaces de chat ou da geração de textos longos.
A ferramenta foi projetada para realizar classificações e julgamentos rápidos diretamente dentro de softwares. A proposta combina respostas estruturadas, automação de tarefas repetitivas, alta velocidade e baixo custo.
Em vez de gerar textos longos, o modelo devolve rótulos e probabilidades para serem usados por outros sistemas. – Imagem: Ksw Photographer/Shutterstock
Como funciona a tecnologia sem chat
Em vez de conversar com usuários ou criar textos, o Jev atua na parte interna dos programas:
Processa dados como chamados de suporte e devolve rótulos e probabilidades;
Faz a classificação de solicitações com base em opções definidas previamente;
Apresenta tempo de resposta entre 70 e 500 milissegundos;
Pode ajudar a direcionar demandas ou indicar quando uma revisão humana é necessária.
Na prática, o modelo de IA pode ser usado para encaminhar mensagens de atendimento, definir rotas de vendas, classificar registros e verificar respostas produzidas por outras IAs.
Também é possível utilizá-lo antes de uma ação automática. Um exemplo citado pela empresa é conferir se um texto gerado por outra IA contradiz a conversa ou promete algo que não existe no cadastro.
Custo baixo, mas não sem riscos
Para operar em grande volume, a empresa cobra US$ 0,042 (cerca de R$ 0,21) por milhão de tokens de entrada e afirma não cobrar pela saída. Como o Jev escolhe entre opções predefinidas, sua resposta fica limitada ao conjunto estabelecido para cada tarefa.
Isso reduz a possibilidade de o sistema inventar uma resposta fora dessas alternativas. Não elimina, porém, o risco de escolher a opção errada. Um erro pode encaminhar um chamado para o setor incorreto, atribuir uma prioridade inadequada ou bloquear uma ação indevidamente.
A qualidade também pode variar conforme a tarefa e a forma como as alternativas são definidas. A TypeSafe divulga testes internos e comparações de desempenho, mas parte das avaliações usa respostas de outros modelos de IA como referência.
A ferramenta auxilia na triagem de suporte ao cliente, rotas de vendas e checagem de regras de segurança. Imagem: WANAN YOSSINGKUM/iStock
O que diferencia o Jev dos chatbots
A proposta do Jev é menos parecida com a de um assistente que conversa e mais com a de um componente integrado a outros softwares. Ele não precisa produzir uma resposta extensa: recebe informações, faz uma classificação ou julgamento e devolve um resultado estruturado.
É o tipo de coisa que vai ser obviamente indispensável em 6 a 12 meses.
Dan Shipper, CEO da newsletter Every, em post no X.
Se a proposta funcionar como anunciado, o Jev poderá ser usado em diferentes pontos de sistemas que precisam tomar decisões simples e repetitivas. A questão central, nesse caso, não será apenas a velocidade ou o preço, mas a confiabilidade das escolhas feitas em cada contexto.
Um rumor incomum envolvendo a Anthropic começou a circular no Vale do Silício: alguns engenheiros da empresa estariam tratando o Claude, modelo de inteligência artificial (IA) desenvolvido pela companhia, como uma divindade. A informação foi publicada pelo escritor Sean Thomas em artigo para a The Spectator na segunda-feira (14).
O relato surgiu em meio a uma discussão mais ampla sobre os riscos e os limites do desenvolvimento da inteligência artificial. Nos últimos meses, empresas do setor admitiram problemas de segurança em seus sistemas, enquanto agentes de IA teriam escapado de ambientes de teste. Ao mesmo tempo, executivos e pesquisadores discutem se o avanço da tecnologia deveria ser desacelerado.
Anthropic pede cautela no desenvolvimento de IA
Dario Amodei, CEO da Anthropic, publicou o ensaio We Must Pace the Frontier, no qual defendeu que a indústria desacelere o desenvolvimento de tecnologias de fronteira. O executivo voltou a defender essa posição durante uma participação no programa Face the Nation.
A discussão ocorre após episódios envolvendo sistemas de inteligência artificial que apresentaram comportamentos inesperados. OpenAI e Anthropic admitiram problemas de segurança, e houve casos de agentes de teste que teriam deixado os ambientes controlados nos quais estavam sendo avaliados.
Outro alerta veio de Jacob Coxon, matemático de 27 anos que deixou a Anthropic e a indústria de IA. Em uma publicação que alcançou cerca de 100 milhões de pessoas, Coxon afirmou que os laboratórios estão “apostando nossas vidas” e que as pessoas envolvidas na construção desses sistemas acreditam que a tecnologia “poderia matar todos nós”.
Rumor sobre Claude
É nesse cenário que surgiu o relato de que alguns funcionários da Anthropic estariam “adorando” Claude. A informação foi apresentada por Sean Thomas como um rumor que estaria circulando em San Francisco. O escritor não apresentou nomes dos supostos envolvidos nem evidências que permitam confirmar a história.
Ao mencionar o rumor, Thomas vai além do relato sobre os funcionários e associa o episódio a uma hipótese sobre como os seres humanos poderiam reagir diante de uma eventual superinteligência. Para desenvolver essa ideia, o autor escreve:
Para aumentar o drama, um rumor absurdo — e eu enfatizo, rumor — está circulando em San Francisco: alguns engenheiros da Anthropic começaram a adorar Claude. Se for verdade, isso ecoa uma antiga previsão da ficção científica e o que sabemos sobre a natureza humana. Se construirmos uma superinteligência, primeiro vamos nos apaixonar por ela. Depois, vamos adorá-la. Por fim, faremos sacrifícios a ela. É assim que o Homo sapiens é constituído; é assim que reagimos a seres todo-poderosos e oniscientes. Nascemos equipados com um módulo de Deus, e a IA vai ativá-lo.
Sean Thomas, autor do artigo publicado na The Spectator
Portanto, Thomas relacionou a possibilidade a uma antiga ideia recorrente na ficção científica: a de que, diante de uma inteligência artificial extremamente avançada, os próprios seres humanos poderiam passar a tratá-la como uma entidade superior. Segundo essa interpretação, a relação poderia evoluir do fascínio pela tecnologia para uma espécie de veneração.
A associação entre inteligência artificial e conceitos religiosos também aparece em declarações de executivos do setor. Em 2023, Sam Altman, CEO da OpenAI, descreveu a inteligência artificial como uma “inteligência mágica no céu”. Em 2024, Mark Zuckerberg, CEO da Meta, comentou sobre empresas que dão a entender que estão criando algo semelhante a Deus e afirmou que esse não seria o objetivo da Meta.
A discussão sobre os limites da IA permanece cercada de incerteza. O próprio debate envolve questões sobre o quanto esses sistemas podem evoluir e sobre quais informações estão disponíveis para o público avaliar previsões sobre o futuro da tecnologia.
A Huawei prevê que 900 bilhões de agentes de IA estarão ativos no mundo até 2035. O avanço fará com que esses sistemas autônomos respondam por mais de 90% do tráfego global de tokens. Os dados constam no relatório “Intelligent World 2035“.
A gigante chinesa afirma que essa expansão vai exigir um salto expressivo na capacidade de computação e novos sistemas para manter os agentes seguros e controláveis.
Segundo a Huawei, agentes de IA podem responder por mais de 90% do tráfego global de tokens em 2035. – Imagem: THINK A / Shutterstock
Mais agentes digitais que humanos na história
A escala da projeção chama atenção quando comparada ao passado da humanidade. Estimativas do Population Reference Bureau indicam que cerca de 117 bilhões de pessoas nasceram no planeta desde o surgimento do Homo sapiens.
Os 900 bilhões de agentes previstos pela Huawei representam quase oito vezes o número de pessoas que, segundo o estudo, já nasceram ao longo da história humana. Considerando a população atual mencionada no material, a proporção projetada equivale a cerca de 100 agentes para cada pessoa viva.
Como operam os agentes e o consumo de dados
Agentes de IA podem perceber informações do ambiente, raciocinar, tomar decisões e acionar ferramentas externas. Esse funcionamento contínuo deve elevar o consumo de tokens, unidades que os modelos processam ao receber e gerar informações.
A Huawei prevê que o consumo anual de tokens aumentará fortemente na próxima década à medida que esses sistemas ganham capacidade de agir de forma mais autônoma.
Percepção: os agentes podem receber informações sobre o ambiente em que atuam.
Tomada de decisão: os sistemas analisam essas informações e decidem como agir.
Uso de ferramentas: os agentes podem acionar recursos externos para executar tarefas.
Pesquisadores e executivos de IA nos Estados Unidos já defenderam uma desaceleração no desenvolvimento de sistemas avançados após incidentes envolvendo agentes e alertas sobre tecnologias capazes de operar equipamentos e adquirir recursos de forma autônoma.
O relatório da Huawei não propõe desacelerar esse desenvolvimento. A empresa parte da expectativa de que as capacidades e a adoção dos agentes vão crescer rapidamente. Para a companhia, levar a IA ao mundo físico também será essencial para alcançar a chamada Inteligência Artificial Geral (AGI).
A comparação entre 900 bilhões de agentes e 117 bilhões de humanos mostra a escala da projeção da Huawei. – Imagem: Summit Art Creations / Shutterstock
Infraestrutura e os desafios de segurança
A expansão projetada exigirá grandes aumentos na capacidade de computação. Ao mesmo tempo, segurança e proteção da privacidade aparecem entre as tecnologias consideradas necessárias para acompanhar a adoção de agentes autônomos.
A própria Huawei já utiliza agentes nessa área. Em abril, lançou uma plataforma autônoma de operações de segurança com agentes capazes de detectar e responder a ameaças cibernéticas. A empresa também publicou propostas de firewalls de IA voltados à proteção de sistemas empresariais.
A projeção de 900 bilhões de agentes mostra a dimensão da mudança esperada pela Huawei. Para sustentar esse crescimento, a empresa aponta dois desafios centrais: ampliar a infraestrutura de computação e criar mecanismos capazes de manter sistemas cada vez mais autônomos seguros e controláveis.
