cibersegurança

Auto Added by WPeMatico

anthropic claude mythos 1024x576 2

IA da Anthropic bloqueia até tarefas básicas de cibersegurança

Deixe um comentário / Anthropic, cibersegurança, Fable, inteligência artificial, mythos /

A Anthropic lançou, na terça-feira, o Fable, descrito pela empresa como uma versão pública e limitada do Mythos, seu sistema voltado à segurança digital. O lançamento rapidamente virou alvo de reclamações entre pesquisadores e profissionais da área, que consideram os bloqueios amplos demais até para tarefas simples.

Segundo a TechCrunch, as críticas começaram a aparecer em redes sociais e fóruns especializados. Valentina “Chompie” Palmiotti, pesquisadora de segurança que trabalha na IBM X-Force, escreveu que o Fable “rejeita qualquer requisição que possa ser tangencialmente relacionada a cibersegurança. Até tarefas inócuas, como ler uma postagem de blog”. Outro pesquisador reclamou no X que “até pedir uma revisão de código” aciona as barreiras da plataforma.

Nova IA da Anthropic interrompe conversas ao detectar temas ligados à cibersegurança ou biologia. Imagem: Photo For Everything/Shutterstock – Imagem: Photo For Everything/Shutterstock

O que faz o Fable bloquear pedidos

Quando um prompt ativa os mecanismos internos de proteção, o Fable interrompe a conversa e exibe uma mensagem informando que suas “medidas de segurança sinalizaram esta mensagem por tópicos de cibersegurança ou biologia”. Nesses casos, a ferramenta retorna automaticamente ao Claude Opus 4.8.

A empresa afirma que os filtros existem para evitar que o sistema seja usado na criação de malware ou para invadir softwares — uma preocupação antiga da Anthropic. A companhia também bloqueia pedidos ligados à biologia por receio de uso indevido envolvendo armas biológicas.

Especialistas reclamam dos filtros

Matt Suiche, veterano da área e membro da equipe técnica da Tolmo, startup de segurança digital com IA, disse ao TechCrunch que “se você pede para ele escrever código seguro, ele assume que é trabalho relacionado a cibersegurança em vez de boas práticas de engenharia de software, e você é rebaixado”. Suiche afirmou ainda que o sistema “parece ser baseado em palavras-chave, então qualquer coisa no campo lexical de ‘cibersegurança’ aciona as restrições”.

Mesmo criticando o funcionamento do sistema, Suiche disse entender a postura da empresa. “Ainda estamos nos primeiros dias e eles ainda estão adaptando suas restrições. Tenho certeza de que vão evoluir com o tempo, à medida que a Anthropic e outras empresas de modelos de fronteira colaborarem com a nova geração de empresas de cibersegurança”, afirmou. “É melhor pegar mais pessoas do que pegar de menos quando você faz um lançamento assim, e relaxar as restrições ao longo do tempo.”

Logo da Anthropic em um smartphone
Profissionais da área reclamam que até pedidos considerados inofensivos são barrados pelo Fable. Imagem: JRdes/Shutterstock – Imagem: JRdes/Shutterstock

Como o Mythos chegou ao mercado

O Mythos foi lançado pela Anthropic em abril, inicialmente com acesso restrito a um grupo limitado de empresas e organizações dentro do Projeto Glasswing, iniciativa voltada à proteção de softwares e infraestruturas críticas. Na semana passada, a companhia ampliou o acesso ao sistema para centenas de organizações em 15 países.

Leia mais:

Além dos filtros internos, a Anthropic exige que profissionais da área se inscrevam no Cyber Verification Program. Profissionais aprovados conseguem usar o Claude com menos bloqueios para trabalhos ligados à segurança digital. A OpenAI mantém um programa semelhante chamado Trusted Access for Cyber.

As críticas continuam circulando entre profissionais da área, principalmente por causa dos bloqueios considerados exagerados. A Anthropic não respondeu ao pedido de comentário da reportagem.

O post IA da Anthropic bloqueia até tarefas básicas de cibersegurança apareceu primeiro em Olhar Digital.

IA da Anthropic bloqueia até tarefas básicas de cibersegurança Read More »

openai x anthropic 1024x604

IA impulsiona corrida por especialistas em cibersegurança

Deixe um comentário / cibersegurança, inteligência artificial /

A expansão da inteligência artificial (IA) no setor de tecnologia está aumentando a procura por profissionais de cibersegurança, especialmente executivos e engenheiros capazes de lidar com falhas, ataques e proteção de dados. Empresas de recrutamento relatam uma disparada nas contratações diante do avanço de modelos de IA voltados à programação e à descoberta de vulnerabilidades em softwares.

Segundo executivos do setor ouvidos pelo The New York Times, a demanda cresceu nos últimos meses após o avanço de ferramentas capazes de gerar código automaticamente e identificar brechas em sistemas críticos. O movimento ocorre em meio a cortes de empregos em grandes empresas de tecnologia, que vêm redirecionando investimentos para projetos ligados à IA.

Busca por especialistas cresce após avanço de modelos de IA

Austin Cowan, headhunter da empresa de recrutamento executivo Heidrick & Struggles, afirmou que a companhia passou a receber uma quantidade muito maior de pedidos para encontrar profissionais com experiência em resposta a incidentes de segurança e revisão técnica de código.

Segundo ele, vagas que antes apareciam anualmente agora surgem semanalmente. Cowan atribuiu o cenário ao clima de incerteza provocado pela corrida da inteligência artificial.

A plataforma de empregos Glassdoor informou que as publicações de vagas em cibersegurança cresceram 11% no primeiro trimestre, em comparação com o mesmo período do ano anterior.

O aumento da procura ocorre porque empresas passaram a utilizar IA para gerar código em larga escala, prática que pode introduzir bugs e vulnerabilidades. Além disso, laboratórios de IA alertaram que modelos recentes podem facilitar a exploração dessas falhas por criminosos.

Modelos da Anthropic e OpenAI elevaram preocupação

Em abril, a startup Anthropic anunciou o modelo Mythos, descrito como altamente eficiente para encontrar e explorar falhas em softwares usados por redes elétricas, instituições financeiras e grandes empresas.

Pouco depois, a OpenAI revelou uma tecnologia semelhante, chamada GPT-5.4-Cyber. As duas empresas liberaram os sistemas apenas para grupos limitados de parceiros.

Modelos de gigantes da IA levantaram alerta de cibersegurança, especialmente o Mythos da Anthropic e o GPT-5.4-Cyber da OpenAI – Imagem: Rokas Tenys/Shutterstock

Michael Piacente, sócio-gerente da empresa de recrutamento Hitch Partners, afirmou que a procura por executivos técnicos de segurança aumentou entre cinco e sete vezes desde o segundo semestre do ano passado.

Segundo ele, a empresa precisou recusar parte dos pedidos devido à falta de profissionais qualificados disponíveis no mercado.

Engenheiros adaptam carreira para continuar competitivos

Lea Kissner, chefe de segurança da informação do LinkedIn, afirmou que o mercado para especialistas em segurança “está cada vez mais aquecido”. Ela disse que as empresas buscam profissionais com habilidades técnicas, capacidade de lidar com incertezas e conhecimento sobre infraestruturas corporativas complexas.

A executiva afirmou ainda que a IA aumentou a carga de trabalho das equipes de segurança e que ainda levará anos para que o setor compreenda como implementar uma segurança sustentável para sistemas baseados em inteligência artificial.

O movimento também tem levado profissionais a estudar IA para ampliar suas chances no mercado. Brian Gaudenti, engenheiro de segurança, contou que passou a usar ferramentas de IA para criar músicas, aplicativos e softwares após deixar seu emprego em novembro.

Segundo ele, incluir esses projetos no portfólio ajudou na conquista de uma nova vaga em uma startup de IA, onde passou a integrar a equipe de segurança.

Salários sobem com escassez de profissionais

Recrutadores afirmam que candidatos para cargos de alto nível em segurança passaram a ganhar maior poder de negociação. Cowan disse que pacotes salariais entre US$ 7 milhões e US$ 8 milhões se tornaram mais comuns para executivos da área.

Apesar do crescimento da cibersegurança e de áreas ligadas à IA, o setor de tecnologia segue registrando demissões em massa. A Meta demitiu cerca de 8 mil funcionários, o equivalente a 10% da equipe, enquanto a Amazon cortou 16 mil vagas em uma rodada recente de demissões.

Outras empresas, como Stripe, Snap e Block, também reduziram seus quadros nos últimos meses.

O post IA impulsiona corrida por especialistas em cibersegurança apareceu primeiro em Olhar Digital.

IA impulsiona corrida por especialistas em cibersegurança Read More »

openai 1 scaled e1778501687285 1024x577

OpenAI lança Daybreak, IA voltada à cibersegurança de empresas

Deixe um comentário / cibersegurança, hacker, hackerismo, inteligência artificial, openai, Software /

Na última segunda-feira (11), a OpenAI anunciou em seu site oficial o lançamento do Daybreak: um conjunto de sistemas de inteligência artificial voltado para cibersegurança, projetado para auxiliar na detecção, análise e resposta a possíveis vulnerabilidades em ambientes corporativos e infraestruturas digitais.

A empresa responsável pelo ChatGPT posiciona o Daybreak como uma espécie de “hacker do bem”, capaz de simular técnicas usadas em ataques cibernéticos para testar a resistência de sistemas de forma controlada e defensiva.

O sistema combina diferentes módulos de IA para mapear superfícies de ataque, analisar possíveis vetores de exploração, validar falhas prováveis e priorizar vulnerabilidades de maior risco, integrando essas etapas em um fluxo contínuo de segurança.

Como o Daybreak auxilia na segurança cibernética de uma rede

Fachada empresa OpenAI – Imagem: Stock all/Shutterstock

O objetivo dos desenvolvedores do Daybreak era criar um sistema completo de defesa digital, o qual utilizasse ferramentas anteriormente criadas pela própria OpenAI para proteger uma rede, funcionando como parte de um fluxo integrado de segurança e resposta a vulnerabilidades.

Dentre as ferramentas utilizadas, uma se destaca das demais: o Codex Security, lançado em março deste ano, um agente de IA que funciona como um “engenheiro de segurança automatizado.”

Ainda é possível citar a utilização do ChatGPT-5.5 para auxiliar no raciocínio rápido das informações recebidas, softwares de validação e patching e muito mais. Assim, cria-se um fluxo completo de deteção, validação, correção, e auditoria quanto às falhas de segurança.

Ou seja, o Daybreak não só acha o problema, como gerencia o ciclo inteiro de cibersegurança.

Foto de silhueta de hacker encapuzado
Cibercriminoso acessando um sistema – Imagem: iJeab/Shutterstock

Leia mais:

O lançamento do Daybreak, contudo, não é por acaso: ocorre apenas um mês depois do anúncio do Claude Mythos (da Anthropic), uma IA generativa a qual explora sistemas em busca de vulnerabilidades zero-day. Neste caso da Anthropic, entretanto, o produto não foi lançado ao público por ser “perigoso demais“; em vez disso, a empresa o compartilhou com alguns funcionários pertencentes à iniciativa Project Glasswing.

Semelhante ao projeto Claude Mythos, o software Daybreak reúne diferentes e avançados modelos de IA para trabalhar ‘em equipe’ por um mesmo propósito.

O Daybreak também incorpora modelos voltados especificamente para cibersegurança, como o GPT-5.5 com Trusted Access for Cyber e o GPT-5.5-Cyber, modelos especializados em análise de segurança e suporte a testes controlados, disponibilizados gradualmente para integração com parceiros selecionados.

A OpenAI informa ainda que vem colaborando com parceiros da indústria e do setor público, enquanto se prepara para disponibilizar modelos progressivamente mais avançados na área de segurança cibernética.

O post OpenAI lança Daybreak, IA voltada à cibersegurança de empresas apareceu primeiro em Olhar Digital.

OpenAI lança Daybreak, IA voltada à cibersegurança de empresas Read More »

chatgpt 1024x682 1

OpenAI prepara IA especializada em cibersegurança e com acesso restrito

Deixe um comentário / ChatGPT, cibersegurança, inteligência artificial, openai /

A OpenAI está se preparando para lançar um novo modelo de inteligência artificial focado em cibersegurança, batizado de GPT-5.5-Cyber. Segundo o CEO Sam Altman em publicação no X, o lançamento deve ocorrer “nos próximos dias”.

Ao contrário de outros sistemas da desenvolvedora, a ferramenta não será liberada ao público geral no primeiro momento. O acesso ficará restrito a um grupo seleto de especialistas e instituições consideradas confiáveis, com o objetivo de fortalecer defesas digitais.

“Trabalharemos com todo o ecossistema e com o governo para definir um acesso confiável para a área cibernética”, escreveu Altman no X.

A OpenAI não deu detalhes sobre as especificações ou funcionalidades do GPT-5.5-Cyber, nem quais organizações ou profissionais terão acesso nesta fase inicial. Em iniciativas anteriores, a empresa adotou critérios de verificação para liberar ferramentas semelhantes a especialistas e entidades específicas.

O nome indica que o modelo será uma versão especializada do GPT-5.5, lançado há apenas uma semana (o Olhar Digital deu os detalhes aqui). Ele é descrito pela desenvolvedora como seu “modelo mais inteligente e intuitivo de usar até o momento”.

O GPT-5.5-Cyber será focado em cibersegurança. Na publicação do X, Altman acrescentou que “queremos ajudar rapidamente a proteger empresas/infraestruturas”.

GPT-5.5-Cyber está previsto para ser lançado nos próximos dias, segundo o CEO da OpenAI – Imagem: Primakov/Shutterstock

OpenAI mantém preocupação com cibersegurança

A estratégia de lançamento controlado reflete uma tendência crescente no setor de inteligência artificial. Empresas têm optado por limitar o acesso a modelos mais avançados devido ao potencial de uso indevido, especialmente em áreas sensíveis como cibersegurança.

A própria OpenAI já adotou abordagens semelhantes no passado, tanto com acesso gradual quanto com modelos especializados. Um deles foi o lançamento do GPT-Rosalind, ferramenta específica para áreas científicas, voltado à pesquisa em biologia e descoberta de medicamentos.

O anúncio do GPT-5.5-Cyber por parte de Sam Altman vem após a chegada do Claude Mythos, IA da Anthropic focada em cibersegurança avançada. O modelo rival, no entanto, enfrentou dificuldades no processo de implementação, incluindo quem poderia ter acesso à tecnologia.

Leia mais:

O avanço desses sistemas especializados também tem chamado a atenção de governos. Nos Estados Unidos, autoridades demonstraram interesse em tecnologias do tipo, ao mesmo tempo em que levantam preocupações sobre riscos de segurança e impacto no acesso institucional às essas ferramentas.

O post OpenAI prepara IA especializada em cibersegurança e com acesso restrito apareceu primeiro em Olhar Digital.

OpenAI prepara IA especializada em cibersegurança e com acesso restrito Read More »

evan solomon e openai 1024x577

Canadá diz que Sam Altman vai aumentar protocolos de segurança do ChatGPT

Deixe um comentário / Canadá, chatbot, ChatGPT, cibersegurança, inteligência artificial, openai, Sam Altman /

Recentemente, o Canadá informou que o presidente-executivo da OpenAI, o empresário Sam Altman, prometeu aumentar os protocolos de segurança do ChatGPT. A mudança deve auxiliar os funcionários de Altman a contatarem a polícia canadense quando um residente do país executar atividades suspeitas via ChatGPT.

A promessa foi garantida em uma carta, redigida pela OpenAI e endereçada ao governo do Canadá.

O envio do documento decorre após um tiroteio que acometeu alunos e funcionários de uma escola na cidade de Tumbler Ridge, na província de British Columbia, no Canadá: a investigação da polícia concluiu que a atiradora tinha um histórico suspeito de conversas com o ChatGPT, teve sua conta encerrada na plataforma, mas a OpenAI nunca entrara em contato com a polícia canadense.

Para quem tem pressa:

  • A OpenAI entrou em contato com o governo do Canadá, por meio de uma carta, e disse estar comprometida a melhorar os protocolos de segurança de sua IA;
  • A atitude ocorre após a polêmica de a empresa saber de um histórico de conversa suspeito de um usuário canadense e não ter acionado a polícia;
  • Meses depois, esse mesmo usuário abriu fogo contra a própria família, estudantes e funcionários de sua cidade.

OpenAI e a promessa de mudar os protocolos de segurança no Canadá

Evan Solomon é um ministro canadense que, dentre vários assuntos, cuida dos interesses do país referente a utilização e segurança de plataformas de inteligência artificial (Crédito das imagens, respectivamente: Centro Nacional de Artes do Canadá e DANIEL CONSTANTE)

Após o contato de Sam Altman com o governo canadense, o Ministro da Inteligência Artificial, Evan Solomon, solicitou que os novos protocolos de segurança fossem adicionados não só agora, mas que a equipe da OpenAI revisasse o histórico passado de conversas dos usuários e contatassem a polícia se identificassem mais suspeitos.

Na quarta-feira (04), o ministro teve uma reunião virtual com Altman pela tarde; à noite, emitiu à mídia um comunicado que resumia os assuntos tratados no encontro com o CEO.

“Pedi à OpenAI que tomasse várias medidas, o que Altman concordou em fazer”, disse Solomon. A declaração ainda informa que a OpenAI se comprometeu a avaliar “como eles incluiriam especialistas canadenses em privacidade, saúde mental e aplicação da lei no processo para identificar e revisar casos de alto risco envolvendo usuários canadenses”.

À frente e à esquerda, Sam Altman com um pequeno sorriso; à direita e ao fundo, o logo da OpenAI em uma tela
Sam Altman, CEO da OpenAI (Imagem: FotoField/Shutterstock)

Leia mais:

Ademais, o ministro informou que a OpenAI está comprometida em emitir relatórios que expliquem como os novos protocolos serão desenvolvidos e de que maneira vão identificar infratores reincidentes ou de alto risco.

A empresa também promete cooperar com a investigação das autoridades que ocorre na Colúmbia Britânica, onde Jesse Van Rootselaar, de 18 anos, abriu fogo contra várias pessoas na cidade de Tumbler Ridge meses depois de conversas suspeitas com o ChatGPT.

No episódio violento, 9 pessoas foram mortas (incluindo a autora dos disparos) e outras 27 ficaram feridas.

O post Canadá diz que Sam Altman vai aumentar protocolos de segurança do ChatGPT apareceu primeiro em Olhar Digital.

Canadá diz que Sam Altman vai aumentar protocolos de segurança do ChatGPT Read More »