ataque cibernético

Auto Added by WPeMatico

ia ciberseguranca 1024x683

Modelos de IA avançados criam novo desafio para o sistema financeiro

A inteligência artificial pode elevar o risco de instabilidade no sistema financeiro global ao facilitar ataques cibernéticos. O alerta é de Andrew Bailey, presidente do Banco da Inglaterra e do Conselho de Estabilidade Financeira (FSB).

Segundo a Reuters, em carta aos ministros das Finanças e presidentes de bancos centrais do G20, Bailey disse que modelos avançados de IA podem mudar a velocidade, a escala e a economia dos ataques. Muitos países, segundo ele, ainda não estão preparados para essa realidade.

Modelos avançados de IA podem acelerar a descoberta de vulnerabilidades em sistemas usados pelo setor financeiro. – Imagem: TSViPhoto/Shutterstock

IA muda o ritmo dos ataques

Para Bailey, o risco cibernético provocado pelo avanço da inteligência artificial é hoje a preocupação mais imediata para a estabilidade financeira. Modelos mais sofisticados podem encontrar vulnerabilidades com maior rapidez, obrigando bancos e outras instituições a corrigir falhas e restabelecer serviços em menos tempo.

Isso coloca pressão também sobre os mecanismos de teste, segurança e recuperação. Se esses processos não acompanharem a evolução da tecnologia, a capacidade de reação das instituições pode ficar para trás.

“Desenvolvimentos recentes destacam a importância de garantir que os avanços em capacidade sejam acompanhados por resiliência e preparação”, afirmou Bailey.

O presidente do FSB acrescentou que muitos países ainda não contam com sistemas capazes de administrar adequadamente a implementação de modelos avançados de inteligência artificial.

Poucos fornecedores, grande dependência

Outro problema está na concentração tecnológica. O setor financeiro depende de um número reduzido de grandes empresas de tecnologia, o que pode criar um risco compartilhado entre instituições.

Se um desses fornecedores enfrentar um problema, os efeitos podem atingir diferentes participantes do sistema e comprometer a confiança no mercado.

Os principais pontos de preocupação são:

  • Ataques cibernéticos mais rápidos e em maior escala;
  • Identificação acelerada de vulnerabilidades;
  • Necessidade de respostas e recuperação mais ágeis;
  • Dependência de poucos fornecedores de tecnologia;
  • Possíveis impactos sobre a confiança no sistema financeiro.

IA também preocupa investidores

O alerta de Bailey não se limita à segurança digital. Ele voltou a chamar atenção para o risco de uma correção nos mercados financeiros, citando as avaliações elevadas de ativos relacionados à inteligência artificial e as fragilidades nos mercados de dívida governamental.

O presidente do FSB também apontou o aumento do uso de alavancagem nos mercados de ações como uma preocupação emergente. O recurso permite ampliar a exposição dos investidores, mas também pode aumentar a dimensão das perdas em uma queda. Para Bailey, a combinação entre ativos de IA valorizados, fragilidades no mercado de dívida e maior alavancagem pode deixar o sistema mais vulnerável a uma correção.

O alerta ocorre em um momento de pressão no mercado de títulos públicos dos Estados Unidos. Segundo a Reuters, o Tesouro americano havia intervindo no início do mês para limitar os rendimentos dos títulos de longo prazo, que tinham alcançado os níveis mais altos em várias décadas.

Um cadeado metálico escuro, flutuante e semitransparente, que se dissolve nas bordas em fluxos de dados brilhantes e nós neurais interconectados, flutuando sobre um fundo de circuitos em tons de azul-marinho profundo e turquesa
A combinação entre riscos tecnológicos e fragilidades de mercado pode aumentar a vulnerabilidade do sistema financeiro. – Imagem: Pedro Spadoni via Gemini/Olhar Digital

Segurança precisa acompanhar avanço

Bailey defendeu que o desenvolvimento e o lançamento de modelos avançados sejam acompanhados por medidas capazes de aumentar a segurança e a preparação dos sistemas financeiros.

Leia mais:

“Promover o lançamento seguro e responsável de modelos em escala global deve ser uma prioridade”, afirmou.

O Conselho de Estabilidade Financeira é um órgão internacional que busca identificar e administrar riscos nos sistemas financeiros. Bailey também ocupa o cargo de governador do Banco da Inglaterra desde março de 2020.

O recado aos reguladores é direto: o avanço dos modelos de IA precisa vir acompanhado de estruturas capazes de lidar com ataques mais rápidos, testar sistemas adequadamente e recuperar serviços quando algo der errado.

O post Modelos de IA avançados criam novo desafio para o sistema financeiro apareceu primeiro em Olhar Digital.

Modelos de IA avançados criam novo desafio para o sistema financeiro Read More »

alucinacao ia 1024x683

Nove ferramentas de IA estão vulneráveis a novo tipo de ataque

Uma nova técnica de ataque explora uma limitação dos modelos de IA e pode comprometer milhares de computadores.

Segundo a Ars Technica, a descoberta envolve nove ferramentas populares usadas por programadores e mostra como uma característica dos assistentes de IA pode ser explorada por criminosos.

Uma simples “alucinação” da IA pode ser suficiente para levar um assistente a baixar código malicioso sem perceber. – Imagem: Layse Ventura via Gemini / Olhar Digital

Quando a IA inventa um caminho

O ataque recebeu o nome de HalluSquatting e aproveita uma característica conhecida dos grandes modelos de linguagem (LLMs): quando não conseguem localizar um projeto, eles podem inventar um endereço em vez de admitir que não sabem onde ele está.

Parece apenas um detalhe técnico. Mas é justamente aí que o golpe começa. Os criminosos registram esses endereços antes, inserem códigos maliciosos e esperam que um assistente de programação tente acessá-los automaticamente.

Segundo a pesquisa, a técnica funciona contra ferramentas bastante conhecidas, como:

  • Cursor e Cursor CLI;
  • Gemini CLI;
  • GitHub Copilot;
  • Windsurf, Cline, OpenClaw, ZeroClaw e NanoClaw.
Ilustração de mãos humanas em volta de cérebro humano ilustrando a ideia e que a inteligência artificial (IA) é a peça que falta no órgão
Antes de aceitar uma sugestão da IA, vale a pena conferir se o repositório realmente existe e é o correto. – Imagem: Jack_the_sparow/Shutterstock

Um ataque que cresce sozinho

A maioria das injeções de prompt depende de uma ação direcionada contra cada vítima. O HalluSquatting muda completamente essa lógica.

São os próprios agentes de IA que procuram projetos durante tarefas rotineiras. Segundo os pesquisadores, “a natureza escalável do ataque permite que o invasor comprometa um grande número de usuários com esforço mínimo”.

Se o desenvolvedor solicitar a instalação de um projeto recém-publicado e o sistema errar o endereço, poderá acabar acessando justamente a página preparada pelo criminoso.

Projetos novos são o alvo preferido

Os testes mostraram que os LLMs localizam corretamente a maioria dos projetos publicados antes de 2019. Já entre os lançamentos de 2025, a taxa média de alucinação chega a 92,4%.

Leia mais:

Como esses projetos ainda não fazem parte do treinamento dos modelos, aumentam as chances de a IA criar endereços inexistentes. A equipe também identificou padrões previsíveis nessas respostas, o que facilita o registro antecipado desses nomes por invasores.

ciberataque
Uma falha aparentemente pequena pode abrir caminho para botnets, ransomware e ataques DDoS em larga escala. – Imagem: janews/Shutterstock

Uma simples alucinação pode abrir a porta

Se o código malicioso for executado, o computador poderá passar a integrar uma rede controlada remotamente pelos criminosos.

Os pesquisadores apontam riscos como:

  • criação de botnets;
  • ataques de ransomware;
  • ataques distribuídos de negação de serviço (DDoS);
  • mineração ilegal de criptomoedas.

Michael Bargury, CTO da Zenity, resumiu a preocupação: “É uma pesquisa muito interessante, e a ameaça é muito real.” Já Johann Rehberger afirmou que a forma como os LLMs localizam projetos pode se transformar em um novo vetor de ataque.

A pesquisa reforça que assistentes de IA ainda precisam de supervisão humana. Antes de instalar projetos, bibliotecas ou componentes sugeridos automaticamente, vale confirmar se a origem realmente corresponde ao recurso desejado. Esse cuidado simples pode evitar que uma alucinação do modelo se transforme em uma brecha de segurança.

O post Nove ferramentas de IA estão vulneráveis a novo tipo de ataque apareceu primeiro em Olhar Digital.

Nove ferramentas de IA estão vulneráveis a novo tipo de ataque Read More »