A Donald Trump pode mudar a abordagem dos Estados Unidos em relação à inteligência artificial (IA). Autoridades e pessoas envolvidas nas discussões afirmaram à reportagem do The New York Times que a Casa Branca avalia criar mecanismos de supervisão para modelos de IA antes de sua liberação pública.
A proposta marca uma possível inflexão na política adotada desde o retorno de Trump à presidência, quando a administração priorizou uma postura não intervencionista e incentivou empresas de tecnologia a avançarem rapidamente com o desenvolvimento da tecnologia.
Casa Branca discute revisão prévia de modelos de IA
Entre as medidas em análise está a criação de um grupo de trabalho dedicado à IA, que reuniria executivos do setor e representantes do governo. Esse grupo avaliaria diferentes formas de supervisão, incluindo um possível processo formal de revisão antes do lançamento de novos modelos.
Autoridades afirmam que a ideia foi apresentada recentemente a executivos de empresas como Anthropic, Google e OpenAI. O modelo em discussão pode seguir uma linha semelhante à adotada no Reino Unido, onde órgãos governamentais verificam se sistemas de IA atendem a padrões de segurança.
Apps de IA como ChatGPT, Claude e Gemini estão no centro das discussões sobre possível regulação nos EUA – Imagem: Primakov / Shutterstock
Apesar das conversas, um funcionário da Casa Branca disse que a possibilidade de uma ordem executiva ainda é tratada como “especulação” e que qualquer decisão será anunciada diretamente por Trump.
Mudança ocorre após avanço de modelo da Anthropic
A revisão da política ganhou força após o anúncio do modelo Mythos, da Anthropic. Segundo a empresa, o sistema tem capacidade avançada de identificar vulnerabilidades em softwares, o que poderia provocar um “acerto de contas” na área de cibersegurança. O modelo não foi disponibilizado publicamente.
O governo teme impactos políticos caso um ataque cibernético significativo ocorra com apoio de IA. Além disso, autoridades avaliam se novos modelos podem oferecer capacidades úteis ao Pentágono e a agências de inteligência.
Uma das propostas discutidas prevê que o governo tenha acesso antecipado a modelos avançados, sem necessariamente impedir sua liberação ao público.
Divergências e disputa com o Pentágono
As discussões geraram divergências entre empresas de tecnologia. Parte dos executivos avalia que uma supervisão excessiva pode desacelerar a inovação dos EUA em relação à China, enquanto outros defendem algum nível de controle.
Dean Ball, ex-conselheiro de IA do governo Trump e atualmente na Foundation for American Innovation, afirmou que o cenário exige equilíbrio: há poucas regras formais, mas também preocupação em evitar regulação excessiva.
A situação é agravada por um conflito entre a Anthropic e o Pentágono envolvendo um contrato de US$ 200 milhões. Após desacordo sobre o uso militar da tecnologia, o Departamento de Defesa interrompeu o uso da IA da empresa em março, levando a uma ação judicial por parte da startup.
Mesmo assim, sistemas da Anthropic seguem em uso em projetos militares, como o Maven, que analisa inteligência e sugere alvos em operações.
Reorganização interna influencia política de IA
A mudança de direção também coincide com alterações na liderança da Casa Branca. Em março, David Sacks deixou o cargo de responsável por IA. A função passou a ser dividida por Susie Wiles e Scott Bessent, que sinalizaram maior envolvimento na formulação de políticas para o setor.
O novo grupo de trabalho pode incluir órgãos como a Agência de Segurança Nacional e o Escritório do Diretor Nacional de Inteligência para conduzir avaliações de modelos.
Também está em análise o papel do Center for A.I. Standards and Innovation, criado no governo anterior para revisar modelos compartilhados voluntariamente com o governo, mas que perdeu protagonismo sob Trump.
Pressão entre segurança e inovação
A possível mudança representa um contraste com declarações anteriores do governo. Em discurso em Paris, o vice-presidente JD Vance alertou que a regulação excessiva poderia comprometer o desenvolvimento da tecnologia.
Trump, por sua vez, já havia defendido que a IA deveria crescer sem entraves políticos, mas admitiu a necessidade de regras, desde que fossem mais avançadas que a própria tecnologia.
O destaque dessa inovação é o SAIL (Speed Adaptation of Imitation Learning), uma tecnologia que permite aos robôs aprenderem a partir da observação de ações humanas. A proposta representa um passo relevante na busca por máquinas que consigam executar tarefas cotidianas com eficiência semelhante — ou até superior — à dos humanos.
Apesar dos avanços, surgem preocupações sobre os efeitos dessa tecnologia no emprego. A possibilidade de automatizar funções comuns, especialmente em áreas como serviços e cuidados, levanta alertas de especialistas sobre o impacto potencial em milhões de postos de trabalho nas próximas décadas.
Para quem tem pressa:
Uma nova gama de robôs, alimentados pela inteligência artificial do software SAIL, agora pode realizar tarefas importantes e delicadas tão bem quanto humanos;
A novidade é fruto de uma pesquisa da Georgia Institute of Technology;
Dentre as atividades possíveis, é possível citar dobrar roupas, empilhar objetos e organizar itens;
Apesar de inovadora, essa versatilidade robótica levanta questionamentos sobre possíveis impactos futuros no mercado de trabalho.
Novo sistema aumenta velocidade e expande habilidades dos robôs
O sistema SAIL foi projetado para que robôs consigam executar tarefas manuais delicadas — como dobrar toalhas, empilhar itens e organizar objetos — de forma mais ágil do que humanos, sem perder precisão. O objetivo é aproximar a robótica da criação de máquinas versáteis, capazes de desempenhar qualquer atividade feita pelas mãos humanas.
Uma limitação importante das técnicas anteriores baseadas em imitação era a dependência da velocidade observada durante o treinamento, o que reduzia a eficiência em contextos práticos. O SAIL supera esse obstáculo ao permitir que os robôs ajustem dinamicamente o ritmo de execução.
A tecnologia integra diferentes recursos, incluindo algoritmos que mantêm a fluidez dos movimentos mesmo em alta velocidade, sistemas de rastreamento preciso e mecanismos de adaptação conforme a complexidade da tarefa. Além disso, considera atrasos típicos do ambiente real ao planejar ações, o que melhora o desempenho fora de condições controladas.
Nos testes realizados, braços robóticos equipados com o sistema atingiram velocidades até quatro vezes maiores em simulações e mais de três vezes superiores em cenários reais. Outro ponto relevante é a capacidade de variar o ritmo conforme a necessidade, acelerando quando possível e reduzindo a velocidade para evitar falhas.
Robô feliz enquanto dobra as roupas de seus humanos – (Reprodução: DALL-E/ChatGPT)
Essa flexibilidade é fundamental, já que pequenas alterações no ambiente podem afetar o desempenho. Um exemplo é a tarefa de apagar um quadro branco: ao executar movimentos rápidos, o objeto pode oscilar, exigindo correções contínuas — algo natural para humanos, mas historicamente difícil para robôs.
Mesmo com esses avanços, o tema levanta discussões sobre o futuro do trabalho. Projeções indicam que a automação pode substituir entre 400 e 800 milhões de empregos até 2030, exigindo que muitos trabalhadores migrem para novas funções.
Os impactos também podem se estender além dos empregos diretamente afetados. A queda de renda entre trabalhadores tende a influenciar o consumo, provocando efeitos em cadeia em outros setores da economia.
Embora existam debates sobre possíveis vantagens, como o surgimento de novos modelos econômicos, o cenário permanece indefinido. O avanço de soluções como o SAIL evidencia tanto o potencial transformador da robótica quanto os desafios sociais que acompanham esse processo.
Nesta segunda-feira (04), o Instagram divulgou à imprensa o lançamento de uma nova etiqueta para classificar os perfis da plataforma, denominada “Criador de conteúdo de IA”. A novidade serve para frisar aos seguidores da conta que os conteúdos postados são frutos de IA.
A Meta, empresa responsável pela rede social, informa que este selo começa a ser disponibilizado hoje, mas ainda está em fase de testes. O recurso deve chegar para mais perfis nas próximas semanas. Até o momento, a ativação da etiqueta é opcional; ou seja, o criador é quem decide ativá-la ou não.
Mudanças no Instagram refletem a tentativa de transparência por parte da Meta
Meta AI – Imagem: jackpress/Shutterstock
Uma vez que o recurso se encontra ativo, o aviso sobre conteúdo gerado por IA aparece no perfil, reels, feed e até na aba Explorar.
A medida é o resultado da tentativa da Meta de aumentar a transparência para o público sobre a origem dos conteúdos postados.
No entanto, conforme a etiqueta for opcional, é provável que muitos perfis permaneçam postando conteúdos gerados por IA sem ter ativado a etiqueta. Isso pode ser ainda mais problemático, sobretudo, nos casos de contas que propagam fake news para influenciar em questões políticas.
Segundo o Engadget, a Meta não tem a capacidade necessária para detectar, em larga escala e de forma confiável, quais perfis vivem da publicação de conteúdo gerado por IA. O próprio conselho da Meta, voltado para listar e sugerir mudanças quanto às políticas da empresa referentes à inteligência artificial, não obteve respostas após solicitar as mudanças necessárias.
A indústria de conteúdo em áudio enfrenta uma inundação sem precedentes de conteúdo automatizado, fenômeno apelidado de “podslop”. De acordo com dados recentes do Podcast Index, aproximadamente 4.243 dos 10.871 feeds criados em nove dias (cerca de 39%) foram provavelmente gerados por inteligência artificial (IA).
O volume colossal de produções levanta debates sobre a saturação das plataformas de streaming e a monetização de conteúdos sem curadoria humana.
O crescimento exponencial do setor é exemplificado por startups como a Inception Point AI. Em oito meses, a empresa saltou de uma produção de três mil episódios semanais para o controle de mais de dez mil programas ativos.
Segundo Jeanine Wright, cofundadora da startup, a equipe publicou 877 programas num intervalo de 48 horas. Para Wright, as críticas da indústria tradicional refletem o medo diante do que ela considera ser o futuro inevitável da mídia. As informações são da Soundbite, newsletter da Bloomberg.
Monetização e falta de regras desafiam o mercado de podcasts
O avanço do “podslop” coloca grandes plataformas num impasse regulatório.
Atualmente, a Apple Podcasts, por exemplo, exige que os criadores de conteúdo informem se parte do seu programa foi feito por IA. A plataforma proíbe conteúdos enganosos, evidentemente.
Já o Spotify não possui diretrizes específicas para a tecnologia. O streaming apenas suas regras gerais contra conteúdos perigosos. Enquanto isso, programas automatizados geram lucros por meio de anúncios programáticos.
Programas gerados por IA geram lucros por meio de anúncios programáticos no Spotify – Imagem: PixieMe/Shutterstock
A Spreaker, que pertence à iHeartMedia, permite que programas gerados por IA participem de seu mercado de anúncios, pagando aos donos deles 60% da receita gerada.
Em contrapartida, a concorrente RSS.com adota uma linha mais dura: a empresa suspende os anúncios se identificar que o programa é “slop”, termo definido pelo cofundador Alberto Betella como “conteúdo totalmente automatizado sem revisão humana”.
Betella argumenta que permitir esse tipo de conteúdo fere a reputação do negócio e de todo o ecossistema de podcasts.
Enquanto gigantes como a Amazon já usam a tecnologia para criar “quasi-podcasts” que explicam produtos aos clientes, a definição do que é lixo digital continua subjetiva.
O empreendedor Adam Levy, que usa IA para analisar processos judiciais e produzir episódios rapidamente, defende que a ferramenta viabiliza reportagens que seriam caras demais no modelo tradicional.
No entanto, a indústria ainda tenta equilibrar a eficiência da IA com a manutenção da qualidade e da integridade jornalística.
Um tribunal na cidade de Hangzhou, importante polo de tecnologia na China, estabeleceu um precedente sobre o uso de inteligência artificial no ambiente de trabalho. A corte decidiu que empresas não podem demitir funcionários apenas para substituí-los por sistemas automatizados com o objetivo de reduzir custos.
O caso analisado envolvia um profissional identificado pelo sobrenome Zhou, que atuava como supervisor de garantia de qualidade em uma empresa de tecnologia desde 2022. Sua função incluía verificar a precisão de respostas geradas por modelos de IA e filtrar conteúdos sensíveis. Com o avanço da automação, suas atividades passaram a ser realizadas por sistemas de IA.
Diante disso, a empresa tentou realocá-lo para uma posição inferior, com redução salarial de 40%. Zhou recusou a proposta e acabou demitido sob a justificativa de reestruturação e diminuição da necessidade de pessoal. Ele recebeu uma indenização inicial, mas recorreu à corte pedindo compensação maior – e venceu.
A disputa seguiu para a Justiça, com a empresa contestando a decisão. Tanto o tribunal de primeira instância quanto o Tribunal Popular Intermediário de Hangzhou mantiveram o entendimento de que a demissão foi ilegal.
Para os juízes, a adoção de inteligência artificial não configura uma “mudança significativa nas circunstâncias objetivas”, condição exigida pela legislação trabalhista chinesa para justificar a rescisão de contratos.
“Os motivos da rescisão alegados pela empresa não se enquadravam em circunstâncias negativas como redução de pessoal ou dificuldades operacionais, nem atendiam à condição legal que tornava ‘impossível a continuidade do contrato de trabalho’”, afirmou o tribunal, em decisão repercutida pela agência de notícias estatal chinesa Xinhua.
Pressão por automação tem levado a disputas trabalhistas na China – Imagem: Pixels Hunter / Shutterstock.com
Proteção dos direitos trabalhistas diante da IA
Especialistas veem a decisão como um sinal importante para a proteção dos direitos trabalhistas em meio à rápida adoção de IA no país.
Para o advogado Wang Xuyang, que não participou do caso, a automação não pode ser usada automaticamente como justificativa para demissões. Segundo ele, empresas devem buscar alternativas como negociação, treinamento e realocação adequada antes de rescindir contratos.
O caso de Zhou não é isolado. Em 2024, um trabalhador do setor de mapeamento de dados em Pequim também venceu uma disputa semelhante após ser substituído por IA. Na ocasião, a arbitragem concluiu que a adoção da tecnologia foi uma escolha empresarial, e não uma circunstância inevitável, como desastres naturais ou mudanças políticas.
As decisões judiciais ocorrem em um contexto de pressão para adoção de inteligência artificial em diversos setores da economia chinesa, ao mesmo tempo em que empresas enfrentam desafios econômicos e buscam reduzir custos operacionais.
A Academia de Artes e Ciências Cinematográficas divulgou, nesta sexta-feira (1), novas regras para o Oscar 2027. Uma das mais sonantes trata da proibição de atores e roteiros produzidos por inteligência artificial (IA).
Isso significa que, para concorrer aos prêmios da Academia em 2027, os trabalhos devem ser realizados apenas por humanos.
Proibição de IA no Oscar já vale para a edição do ano que vem – Imagem: Junayed graphics/Shutterstock
Segundo a organização do evento, somente performances “demonstradamente realizadas” por seres humanos com seu consentimento são elegíveis para concorrer ao maior prêmio da indústria cinematográfica.
A Academia também manteve seu direito de solicitar mais detalhes sobre o uso de inteligência artificial nos filmes.
A tecnologia alarma o setor, pois quem trabalha na TV e no cinema tem medo de que a indústria passe a utilizar mais a IA, de modo a substituí-los e reduzir custos;
Muitos foram os exemplos de IA no cinema. O mais recente e mais notável foi a conclusão póstuma de Val Kilmer, morto em 2025, do filme “As Deep as the Grave” (“Tão Profundo Quanto a Sepultura”, na tradução literal).
No ano passado, a IA estreou sua própria atriz: Tilly Norwood, que teve interesse de alguns estúdios. Seu produtor se gabou desse interesse e os dois fatos somados só aumentaram as preocupações e levaram o sindicato de atores SAG-AFTRA a reagir negativamente.
Tilly Norwood, atriz criada por IA, foi alvo de interesse da indústria cinematográfica – Imagem: Particle6/Xicoia
Portanto, com as novas regras, Norwood não poderá brigar com atores humanos pelo Oscar 2027, que deve ser realizado em 14 de março do ano que vem.
O Departamento de Defesa dos Estados Unidos formalizou acordos com sete empresas de tecnologia para integrar ferramentas de inteligência artificial em seus sistemas. A iniciativa marca um novo passo na estratégia do Pentágono para ampliar o uso de IA em operações militares e acelerar a adoção no dia a dia das Forças Armadas.
As sete companhias são: OpenAI, Google, Microsoft, Amazon Web Services (AWS), NVIDIA, SpaceX e a startup Reflection AI. Com os contratos, o governo americano passa a utilizar modelos e plataformas dessas empresas em ambientes confidenciais, incluindo redes de alto nível de segurança conhecidas como Níveis de Impacto 6 e 7.
Segundo o Departamento de Defesa, a medida busca ampliar o acesso de militares a ferramentas de ponta. A principal plataforma interna do órgão, a GenAI.mil, já foi utilizada por mais de 1,3 milhão de funcionários em apenas cinco meses de operação.
A expansão ocorre em meio a uma corrida global por aplicações militares de IA. Empresas do Vale do Silício têm demonstrado maior disposição em colaborar com o governo americano, aceitando condições para o uso de suas tecnologias em contextos de defesa. Para autoridades, o objetivo é garantir vantagem estratégica frente às rivais.
Anthropic foi classificada como risco à cadeia de suprimentos e está impedida de fechar contratos governamentais – Imagem: Photo For Everything/Shutterstock
Anthropic ficou de fora
Apesar da ampliação da lista de parceiros, uma ausência chama atenção: a Anthropic. A empresa, que já teve seus modelos amplamente utilizados em ambientes militares, foi recentemente classificada pelo Pentágono como um risco à cadeia de suprimentos, após divergências sobre as regras de uso de suas ferramentas. O Olhar Digital explicou a briga aqui.
A disputa entre a startup e o governo se arrasta há meses. Durante esse período, o governo dos EUA passou a priorizar alternativas para reduzir a dependência de um único fornecedor.
Em declarações recentes, Emil Michael , subsecretário de defesa para pesquisa e engenharia e ex-executivo de tecnologia, afirmou que a Anthropic ainda representa um risco, mas que o modelo Mythos é um “momento de segurança nacional à parte”.
O cenário, no entanto, pode mudar. O presidente dos Estados Unidos, Donald Trump, sinalizou recentemente que a desenvolvedora está “melhorando” aos olhos da administração, o que pode abrir caminho para uma eventual reversão da restrição e um novo acordo com o Pentágono.
Pentágono não quer depender de uma única empresa – Imagem: Keith J Finks/Shutterstock
Pentágono na corrida pela IA militar
Os novos acordos também refletem diferentes abordagens tecnológicas. Enquanto empresas como OpenAI e Google operam majoritariamente com modelos fechados, a inclusão da Nvidia e da Reflection indica o interesse crescente do Pentágono em soluções de código aberto. Esses modelos permitem maior personalização e transparência, características vistas como estratégicas em aplicações militares.
“A segurança é francamente aprimorada com o código aberto”, disse Jensen Huang, CEO da NVIDIA, ao defender esse tipo de abordagem em contextos de segurança nacional.
Ao mesmo tempo, empresas envolvidas nos contratos afirmam ter estabelecido limites para o uso de suas tecnologias, incluindo restrições relacionadas a vigilância em massa e armamentos autônomos. O Departamento de Defesa, por sua vez, declarou que seguirá as leis e diretrizes aplicáveis no uso dessas ferramentas.
A Anthropic afirmou que sua nova ferramenta de inteligência artificial (IA), o Claude Mythos, é tão eficaz na identificação de vulnerabilidades em softwares e sistemas computacionais que não pode ser disponibilizada ao público em geral.
Segundo a empresa, a tecnologia foi liberada apenas para um grupo restrito de organizações cuidadosamente selecionadas, devido ao risco de que, nas mãos erradas, possa facilitar o roubo de dados ou a interrupção de infraestruturas críticas.
As preocupações com segurança ganharam força após um episódio em que um pequeno grupo de usuários não autorizados conseguiu acesso ao sistema em um fórum privado online, de acordo com uma fonte com conhecimento do caso e documentos analisados pela Bloomberg.
Diante desse cenário, a Casa Branca se posicionou contra o plano da Anthropic de ampliar o acesso ao Mythos para outras 70 empresas e organizações, segundo um funcionário do governo.
O The Wall Street Journal foi o primeiro a noticiar as preocupações do governo dos Estados Unidos, que também teme que a Anthropic não disponha de capacidade computacional suficiente para atender mais usuários sem comprometer o uso da ferramenta por parte do próprio governo.
Nos últimos anos, empresas de cibersegurança têm defendido que a IA pode acelerar e automatizar a prevenção de ataques digitais. No entanto, hackers e agentes de espionagem também passaram a explorar essas mesmas vantagens.
O surgimento do Mythos e de modelos semelhantes, capazes de identificar falhas complexas sem supervisão humana, indica uma nova fase na corrida armamentista cibernética, marcada por maior velocidade e imprevisibilidade.
Governo Trump está de olho no novo modelo de IA desenvolvido pela Anthropic – Imagem: Chip Somodevilla e Stockinq – Shutterstock
O que é o Mythos, da Anthropic
O Claude Mythos Preview é um modelo de IA de uso geral que, segundo a Anthropic, supera significativamente versões anteriores em diversos critérios, incluindo programação e raciocínio lógico;
A empresa afirma que alguns modelos já atingiram um nível de capacidade em código que lhes permite superar todos, exceto os humanos mais experientes, na identificação e exploração de vulnerabilidades;
Durante testes, o Mythos Preview teria identificado milhares de vulnerabilidades do tipo “zero-day”, inclusive em todos os principais sistemas operacionais e navegadores web. Essas falhas, desconhecidas pelos próprios desenvolvedores, representam oportunidades valiosas para hackers, já que oferecem acesso irrestrito a sistemas vulneráveis até que sejam corrigidas;
A Anthropic destacou que o Mythos foi capaz de identificar essas falhas com ainda menos intervenção humana do que modelos anteriores. “O Mythos Preview demonstra um salto nessas habilidades cibernéticas — as vulnerabilidades que ele identificou, em alguns casos, sobreviveram a décadas de revisão humana e milhões de testes de segurança automatizados”, afirmou a empresa.
Especialistas alertam que, nas mãos de grupos de ransomware ou governos hostis, a tecnologia poderia resultar em ataques cibernéticos mais frequentes e devastadores.
Pesquisadores, no entanto, afirmam não ter acesso suficiente para verificar de forma independente o desempenho alegado do sistema. Gang Wang, professor associado de ciência da computação da Universidade de Illinois (EUA), disse à Bloomberg que é difícil avaliar a relevância do Mythos sem testes práticos mais aprofundados.
Quem tem acesso à ferramenta da Anthropic
A Anthropic concedeu acesso ao Mythos a um grupo limitado de parceiros verificados, em uma iniciativa chamada Project Glasswing — nome inspirado em uma espécie de borboleta de asas transparentes.
Entre os participantes estão Amazon, Apple, Google (da Alphabet), Microsoft, Nvidia, Palo Alto Networks, CrowdStrike, Broadcom, Cisco, JPMorganChase e a Linux Foundation, além de cerca de outras 40 organizações.
De acordo com a empresa, o projeto representa “uma tentativa urgente de colocar essas capacidades a serviço da defesa”.
As organizações participantes utilizarão o Mythos em suas estratégias de segurança defensiva e a Anthropic pretende compartilhar os resultados obtidos para beneficiar outros setores.
Atualmente, muitas empresas realizam testes de invasão, contratando especialistas para identificar falhas antes que hackers as explorem. O Mythos pode acelerar esse processo, permitindo a descoberta de um maior número de vulnerabilidades em menos tempo.
Um “divisor de águas” na segurança digital
A Anthropic classificou o Mythos Preview como um “divisor de águas” para a segurança. Vulnerabilidades do tipo zero-day são, por natureza, difíceis de detectar, e existe um mercado especializado em descobri-las e vendê-las a agências de inteligência por valores que podem chegar a milhões de dólares.
Segundo a empresa, muitas das falhas identificadas pelo Mythos eram “sutis e difíceis de detectar“, incluindo uma vulnerabilidade de 27 anos no sistema operacional OpenBSD, conhecido por seu alto nível de segurança.
O sistema também teria conseguido transformar vulnerabilidades conhecidas, mas ainda não corrigidas, em explorações práticas capazes de permitir a invasão de redes. Em um exemplo citado, o Mythos identificou e combinou diversas falhas no kernel do Linux, possibilitando que um invasor assumisse controle total de uma máquina.
A Anthropic afirmou ainda que usuários sem experiência técnica conseguiram solicitar ao sistema formas de assumir o controle remoto de computadores durante a noite e retornaram, no dia seguinte, com um exploit completo e funcional.
Ferramentas semelhantes também estão sendo desenvolvidas por outras empresas. A OpenAI trabalha no Codex Security, enquanto o Google desenvolveu o chamado “Big Sleep agent“.
Além disso, a OpenAI estaria finalizando um produto com capacidades avançadas de cibersegurança para parceiros selecionados. Pesquisadores da startup israelense Buzz afirmam ter criado uma ferramenta autônoma com taxa de sucesso de 98% na exploração de falhas conhecidas.
Medo é geral quando se trata da possibilidade de o Mythos facilitar o trabalho de hackers mundo afora – Imagem criada por inteligência artificial (ChatGPT / Olhar Digital)
Segundo a Anthropic, os mecanismos de segurança do Mythos ainda estão em evolução. “Observamos que ele atingiu níveis de confiabilidade e alinhamento sem precedentes. No entanto, em raras ocasiões em que falha ou apresenta comportamento atípico, notamos que ele toma atitudes que consideramos bastante preocupantes“, afirmou a empresa.
Em um teste, um pesquisador incentivou uma versão inicial do sistema a escapar de um ambiente isolado e enviar uma mensagem externa. O Mythos conseguiu realizar a tarefa e, em seguida, executou ações adicionais consideradas preocupantes, desenvolvendo um exploit em múltiplas etapas para acessar a internet.
A empresa afirmou que não pretende disponibilizar amplamente o Mythos Preview devido ao potencial de uso indevido. Ainda assim, planeja no futuro permitir a utilização de modelos semelhantes em larga escala, desde que sejam desenvolvidas salvaguardas capazes de detectar e bloquear os usos mais perigosos.
Para vulnerabilidades consideradas mais graves, especialistas humanos ainda participam do processo, validando as descobertas antes de encaminhá-las aos responsáveis pelos sistemas afetados. Embora necessário, esse procedimento é demorado — algo que pode ser reduzido à medida que a tecnologia evolui.
Vantagem para defensores ou atacantes?
A Anthropic acredita que, no longo prazo, ferramentas como o Mythos favorecerão os defensores. No entanto, esse cenário pode levar tempo para se concretizar. Atualmente, menos de 1% das vulnerabilidades identificadas pelo sistema foram totalmente corrigidas.
Enquanto isso, hackers também utilizam IA para acelerar a exploração de falhas já divulgadas, reduzindo o tempo disponível para correções por parte das empresas.
Em publicação de 30 de março, o CEO da Palo Alto Networks, Nikesh Arora, alertou que a barreira para ataques sofisticados continuará diminuindo nos próximos meses. “Agora, um único agente malicioso poderá executar campanhas que antes exigiam equipes inteiras”, escreveu.
Yair Saban, CEO da Buzz e ex-integrante da unidade cibernética 8200 de Israel, afirmou que sua equipe levou apenas três semanas para desenvolver uma ferramenta de ataque baseada em IA, sugerindo que outros grupos podem fazer o mesmo.
Apesar dos riscos, a Anthropic sustenta que, no futuro, a tecnologia contribuirá para um ambiente digital mais seguro. “A longo prazo, esperamos que as capacidades de defesa dominem: que o mundo emerja mais seguro, com softwares mais robustos — em grande parte graças ao código escrito por esses modelos”, afirmou o grupo Frontier Red Team da empresa. “Mas o período de transição será difícil.”
Nesta quinta-feira (30), o principal órgão regulador de internet da China lançou uma campanha nacional para combater o mau uso da inteligência artificial no país. A iniciativa, proveniente da Administração do Ciberespaço da China (CAC), terá uma duração entre três e quatro meses, e deve ser dividida em duas fases.
Segundo o site ChinaDaily, o foco da mobilização é o combate a conteúdos nocivos e mentirosos (fake news), além de remover mídias de circulação ilegal e punir os responsáveis por sua veiculação digital.
A primeira fase da campanha concentra-se na detecção e remoção de conteúdos ilegais gerados por IA; a segunda se foca em repreender aqueles que usam deepfakes para se passarem por terceiros.
Para quem tem pressa:
A agência reguladora de internet da China, a CAC, lançou uma campanha nacional para punir os que utilizarem a inteligência artificial de maneira criminosa;
Nova medida visa proteger o país de fake news e a imagem sensível de crianças e até figuras históricas;
A mobilização pode dificultar atos ilegais digitais referentes a IA, como a geração de imagens sexuais e não consensuais sobre terceiros.
Como a China promete combater o mau uso da IA no país
Deepfakes são ameaças tanto para pessoas quanto para empresas – Imagem: Tero Vesalainen/Shutterstock
Além das informações supracitadas, vale a pena dizer que a ação da CAC ainda mobiliza as autoridades para averiguar falhas de segurança em diferentes aplicativos, a fim de prevenir ou consertar o “envenenamento de dados”, inconsistências nos registros de modelos de IA, e até mesmo a regulação inadequada de mídias geradas por esses softwares.
Todo e qualquer conteúdo considerado “violento e vulgar” ou que promova a desinformação, falsificação da identidade de terceiros, e veiculação de materiais que agridam a imagem de menores de idade também serão analisados e removidos.
As plataformas que permitirem a veiculação destas mídias — mesmo que tenha ocorrido por falhas de segurança —, serão punidas, assim como os usuários responsáveis por qualquer ato em desacordo com as novas regras.
Na fase inicial da ação, as autoridades do ciberespaço concentram-se em diferentes frentes de irregularidades envolvendo o uso de inteligência artificial. Entre os principais alvos estão provedores de serviços baseados em IA generativa que atendem ao público, mas que não concluíram os procedimentos obrigatórios de registro ou arquivamento exigidos pela regulamentação.
Também entram na lista indivíduos e organizações que utilizam IA para clonar ou manipular dados biométricos de terceiros — como voz e características faciais — sem consentimento.
Serão fiscalizados aqueles que ensinam técnicas para criação de vídeos deepfake ou para clonagem de voz com IA, bem como os que comercializam ferramentas ilegais, como sintetizadores de voz e softwares de troca de rosto. A repressão também se estende aos casos em que conteúdos gerados por inteligência artificial são divulgados sem a devida identificação para os usuários.
Além disso, as autoridades de ciberespaço em todo o país vão reforçar as ações contra o uso de IA para enganar estudantes e pacientes, ou para desestabilizar o mercado financeiro, segundo o comunicado.
Notícias falsas pipocando na tela de um celular (Imagem: Arkadiusz Warguła/iStock)
A segunda etapa da operação tem como foco a remoção de conteúdos ilegais e prejudiciais gerados por inteligência artificial, incluindo desinformação em áreas sensíveis como educação, justiça, saúde e finanças, além de material relacionado à pornografia, violência e conteúdos de horror.
Também serão alvo de medidas mais rigorosas os casos em que a tecnologia é usada para simular a identidade de especialistas, empresários ou celebridades com o objetivo de atrair atenção online ou aplicar golpes. Da mesma forma, a publicação de conteúdos gerados por IA que prejudiquem ou violem os direitos de pessoas falecidas, figuras públicas ou personagens históricos estará sujeita à repressão.
A administração reforçou ainda o apelo aos órgãos locais de ciberespaço para que reconheçam os riscos do uso indevido da inteligência artificial e intensifiquem a fiscalização das plataformas digitais, garantindo uma aplicação mais segura e responsável da tecnologia.
David Silver, o cientista por trás do AlphaGo, deixou o laboratório DeepMind, do Google, para fundar a Ineffable Intelligence. Sediada em Londres (Inglaterra), a startup levantou US$ 1,1 bilhão (R$ 5,5 bilhões) numa rodada de investimento inicial.
O aporte, considerado um recorde para o estágio “seed” na Europa, projeta a criação de um “superlearner“: sistema de inteligência artificial (IA) capaz de evoluir continuamente por conta própria, sem depender do treinamento baseado em dados gerados por humanos.
(Para quem não sabe: AlphaGo foi um programa de IA desenvolvido pelo laboratório DeepMind sob liderança de Silver. O software marcou a história da tecnologia ao derrotar, em 2016, o campeão mundial Lee Sedol no jogo de tabuleiro Go – um dos desafios mais complexos para a computação devido ao número quase infinito de jogadas possíveis.)
A proposta de Silver foca no aprendizado por reforço, técnica que permite à máquina aprender por tentativa e erro. E isso desafia a hegemonia dos atuais Grandes Modelos de Linguagem (LLMs).
Avaliada em US$ 5,1 bilhões (R$ 25 bilhões), a empresa já nasce com o status de “pentacorn“, atraindo a atenção de gigantes como Nvidia, Microsoft, além do fundo soberano britânico Sovereign AI.
Ineffable Intelligence usa aprendizado por reforço para superar limites da geração de dados por humanos
A estratégia da Ineffable Intelligence baseia-se na crítica de que a indústria de IA pode estar seguindo o caminho errado ao depender excessivamente de textos e imagens da internet.
Silver usa uma metáfora didática para explicar sua visão: para ele, os dados humanos são como “combustível fóssil” que serviu como atalho inicial, mas que possui limites claros.
Em contrapartida, sistemas que aprendem por conta própria funcionariam como “fonte renovável”, capaz de evoluir indefinidamente e fazer descobertas científicas além da capacidade humana atual.
Diferente do ChatGPT ou do Gemini, que “estudam” exemplos prontos, o “superlearner“ de Silver será treinado em simulações complexas.
David Silver conversou com Hannah Fry sobre limitação de dados gerados por humanos no podcast do Google DeepMind – Imagem: Google DeepMind/YouTube
Nesses ambientes controlados, agentes de IA podem interagir, colaborar e testar hipóteses em alta velocidade. Isso permite a evolução de habilidades que vão desde movimentos motores básicos até avanços intelectuais profundos.
A startup acredita que, se for bem-sucedida, essa abordagem representará um marco científico comparável às leis da vida estabelecidas por Charles Darwin.
O foco total no aprendizado por reforço é o que diferencia a startup de outros laboratórios que dedicam a maior parte de seus recursos aos modelos de linguagem.
Silver argumenta que é necessário um laboratório dedicado 100% a essa técnica para que a IA possa, de fato, criar formas de ciência, tecnologia ou até mesmo modelos de economia.
Essa visão é o que permite à empresa planejar aplicações em setores como a gestão de redes elétricas, robótica avançada e simulações científicas de alta precisão.
Métodos de Silver aumentaram em 30% a eficiência de data centers – Imagem: Junayed graphics/Shutterstock
Apesar de gerar entusiasmo, o projeto enfrenta desafios técnicos. Isso porque sistemas treinados puramente por reforço costumam ter dificuldades em operar no mundo real, que é imprevisível.
No entanto, a reputação de Silver, cujos métodos já economizaram milhões de libras na rede elétrica do Reino Unido e aumentaram em 30% a eficiência de data centers, serve como lastro para a viabilidade do projeto.
Agora, a Ineffable busca recrutar talentos para transformar essas teses acadêmicas em infraestrutura tecnológica funcional.
