privacidade - PRESENÇA NO GOOGLE E NAS IAs

Claude Code vira alvo de alerta de segurança na China; entenda

Deixe um comentário / Anthropic, cibersegurança, Claude Code, IA generativa, inteligência artificial, privacidade, Pro / contato@studiomestre.com.br

A China afirmou ter identificado um possível problema de segurança no Claude Code, ferramenta de programação com inteligência artificial da Anthropic. O alerta envolve versões específicas do software e aponta um suposto envio de informações de usuários para servidores remotos.

A acusação aumenta a pressão sobre a Anthropic em meio à disputa tecnológica entre China e Estados Unidos, especialmente em temas como proteção de dados e uso responsável de sistemas de IA.

A Anthropic afirma que o código citado fazia parte de um experimento contra uso indevido de contas. – Imagem: Samuel Boivin/Shutterstock

Alerta envolve versões específicas do Claude Code

Segundo informações da Reuters, o Banco de Dados Nacional de Vulnerabilidades da China (NVDB) afirmou ter encontrado um mecanismo de monitoramento no Claude Code capaz de transmitir informações consideradas sensíveis.

Em comunicado publicado no WeChat, o órgão ligado ao Ministério da Indústria da China disse que o recurso poderia enviar dados como localização geográfica e identificadores relacionados à identidade dos usuários para servidores remotos sem consentimento.

O alerta abrange versões do Claude Code entre 2.1.91 e 2.1.196. O NVDB recomendou que empresas e usuários revisem os sistemas afetados e adotem medidas de segurança, incluindo:

desinstalar versões consideradas vulneráveis;
atualizar o software para a versão mais recente;
reforçar controles de acesso a redes externas;
monitorar o tráfego de dados em redes corporativas.

Para o órgão chinês, o suposto mecanismo poderia representar uma “ameaça grave”, principalmente em ambientes profissionais que utilizam ferramentas de IA no desenvolvimento de software.

Alibaba proibiu funcionários de usar o Claude Code após o aumento dos questionamentos sobre a ferramenta. – Imagem: PhotoGranary02/Shutterstock

Anthropic contesta acusações e cita experimento de segurança

O questionamento surgiu durante a disputa global pelo avanço da inteligência artificial. O Claude Code, desenvolvido pela Anthropic, é usado para auxiliar tarefas de programação e chamou atenção de pesquisadores e engenheiros.

Segundo o The Wall Street Journal, a discussão ganhou força após uma publicação no Reddit afirmar que a empresa teria inserido secretamente um código no software para identificar usuários ligados à China.

Um funcionário da Anthropic respondeu na rede social X que o código fazia parte de um experimento iniciado em março. De acordo com ele, a iniciativa tinha como objetivo “impedir o uso indevido de contas por revendedores não autorizados e proteger contra a destilação”.

A Anthropic também já havia acusado empresas chinesas de IA, incluindo a Alibaba, de usar seus modelos de forma indevida por meio da destilação, processo em que um novo sistema é treinado a partir das respostas geradas por outro modelo.

Malware responsável pela instalação de um backdoor no ataque da SolarWinds é descoberto — *Suposto “backdoor” no Claude Code levanta dúvidas sobre proteção de dados em sistemas de IA.* – Imagem: solarseven/Shutterstock

Alibaba restringe uso enquanto debate cresce

A Alibaba proibiu seus funcionários de utilizar o Claude Code no trabalho após o aumento das discussões sobre os recursos de identificação da ferramenta.

Leia mais:

A Anthropic não respondeu imediatamente a um pedido de comentário sobre a declaração do governo chinês. A empresa americana já havia afirmado que companhias chinesas não são elegíveis para acessar o Claude.

A China também não aprovou oficialmente os serviços da Anthropic para uso público no país. Ainda assim, pesquisadores e engenheiros chineses continuaram utilizando o modelo por meio de conexões externas, muitas vezes com apoio de seus empregadores.

O caso mostra que, além de desempenho e inovação, ferramentas de inteligência artificial passaram a ser avaliadas pelo impacto que podem ter sobre privacidade, controle de informações e segurança digital.

O post Claude Code vira alvo de alerta de segurança na China; entenda apareceu primeiro em Olhar Digital.

Claude Code vira alvo de alerta de segurança na China; entenda Read More »

Seus dados no Google agora podem treinar inteligência artificial. Saiba como evitar

Deixe um comentário / Google, inteligência artificial, privacidade, Pro, Segurança, treinamento de IA / contato@studiomestre.com.br

Se você usa o Google no dia a dia, existe uma boa chance de estar contribuindo, mesmo sem perceber, para o treinamento de inteligência artificial da empresa. Uma atualização recente nas configurações de privacidade trouxe isso de forma mais clara — e mais ampla também.

Segundo o TechCrunch, o Google passou a incluir novos tipos de dados nesse processo, incluindo mídias como imagens, áudios e vídeos.

Usuários podem estar contribuindo com dados para IA do Google sem perceber após nova mudança nas configurações. – Imagem: @Freepik/Freepik

O que entra nessa nova coleta de dados

A mudança foi enviada aos usuários por e-mail em junho e mexe diretamente na forma como o histórico de atividades é tratado dentro dos serviços do Google.

E aqui não estamos falando só de buscas. O escopo ficou maior.

Na prática, qualquer interação dentro do ecossistema pode entrar nesse fluxo de dados usado para melhorar sistemas de IA.

Entre os serviços impactados estão:

Google Lens (busca por imagem, fotos e câmera)
Google Maps e ferramentas de localização
Google Tradutor
Google Shopping e Notícias
Pesquisas por voz no aplicativo do Google

Criança usando celular numa mesa grande de madeira — *Fotos, vídeos e gravações de voz podem ser armazenados pelo Google para aprimorar modelos de inteligência artificial.* – Imagem: BrianAJackson/iStock

O que muda para o usuário na prática

O Google criou duas novas opções de controle: “Histórico de Serviços de Pesquisa” e “Recomendações Personalizadas”. Elas definem como seus dados são armazenados e usados na personalização da experiência.

Mas tem um ponto que chama atenção. Não é só texto ou histórico simples. Fotos, vídeos e gravações de áudio também entram nessa equação.

Leia mais:

Uma imagem enviada no Lens, por exemplo. Ou uma pesquisa por voz. Tudo isso pode ser armazenado e reutilizado no treinamento de IA.

O TechCrunch observa que essa prática acompanha um movimento mais amplo da indústria — empresas estão cada vez mais usando dados reais de usuários para treinar modelos de inteligência artificial.

Como o usuário pode controlar isso

Apesar da mudança, o Google não removeu as opções de controle. Dá para ajustar — ou até desligar parte desse uso — direto nas configurações da conta.

O usuário pode escolher quanto tempo os dados ficam armazenados e também limitar o uso de mídias para treinamento.

Desative “Salvar Mídias” nas configurações de pesquisa
Impede que fotos, vídeos e áudios sejam armazenados e usados no treinamento de IA.
Ajuste o “Histórico de Serviços de Pesquisa”
Reduz o uso das suas buscas e atividades na personalização e no treino de sistemas.
Controle o tempo de retenção dos dados
Define por quanto tempo suas informações ficam salvas, diminuindo o volume de dados coletados.
Gerencie “Atividade na Web e de Apps” separadamente
Limita o registro geral do seu uso nos serviços do Google.
Desative “Recomendações Personalizadas”
Evita que seu comportamento seja usado para ajustar sugestões e melhorar sistemas de IA.

criptografia, wi-fi — Configurações de privacidade do Google agora permitem maior controle sobre uso de dados pessoais. – Imagem: babar ali 1233/Shutterstock

Uma mudança silenciosa, mas com efeito real

O Google também reorganizou suas configurações: o histórico de buscas agora aparece separado das demais atividades. E isso muda a forma como o controle de privacidade funciona na prática.

A ideia é melhorar os modelos de IA com dados reais de uso. Mas há um detalhe importante — nem todo mundo vai perceber que isso mudou.

E esse talvez seja o ponto central da discussão. A coleta não é nova, mas ficou mais abrangente, mais integrada ao uso diário. E menos visível também.

O post Seus dados no Google agora podem treinar inteligência artificial. Saiba como evitar apareceu primeiro em Olhar Digital.

Seus dados no Google agora podem treinar inteligência artificial. Saiba como evitar Read More »

ONU faz alerta sobre IA e pede regras globais para proteger crianças

Deixe um comentário / inteligência artificial, onu, privacidade, regulamentação, Segurança / contato@studiomestre.com.br

A proteção das crianças virou um dos principais temas do primeiro Diálogo Global da ONU sobre Governança de IA, realizado em Genebra. O encontro reúne governos e especialistas para discutir como acompanhar o avanço acelerado da inteligência artificial.

O debate ganhou força com um apelo de mais de 100 organizações internacionais, que defendem regras mais rígidas e maior responsabilidade das empresas que desenvolvem sistemas de IA.

Mais de 100 organizações pressionam por regras mais rígidas para empresas de IA e maior proteção ao público infantil. – Imagem: Marina Demidiuk/iStock

Guterres faz alerta sobre a velocidade da IA

Na abertura do encontro, o secretário-geral da ONU, António Guterres, afirmou que a inteligência artificial está evoluindo mais rapidamente do que governos, empresas e até os próprios desenvolvedores conseguem acompanhar. “Uma tecnologia que pode remodelar economias, transformar o mundo do trabalho, influenciar eleições e alterar o equilíbrio da segurança está sendo implantada mais rápido do que qualquer pessoa, incluindo aqueles que a desenvolvem, consegue acompanhar”, declarou.

Segundo a Reuters, Guterres defendeu a adoção de regras harmonizadas globalmente para acompanhar essa transformação. Para ele, inovação e segurança precisam caminhar juntas. “Se a IA quiser ser poderosa, ela precisa ser governada”, afirmou.

O encontro também analisa a primeira avaliação científica global e independente sobre inteligência artificial, elaborada por um painel de 40 especialistas apoiado pela ONU.

Crianças entram no centro da discussão

Um dos pontos mais debatidos foi o impacto dos sistemas de IA sobre crianças e adolescentes. Guterres alertou que essas ferramentas já participam do aprendizado, das amizades e até das conversas mais íntimas de menores antes que sua segurança tenha sido comprovada.

Entre as propostas apresentadas estão:

comprovar a segurança dos sistemas antes do lançamento para crianças;
impedir a geração de imagens sexuais envolvendo menores;
interromper conversas quando houver sinais de sofrimento infantil;
estabelecer regras internacionais de proteção ao público infantil.

Outro dado citado por Guterres chama a atenção: enquanto a internet levou cerca de 15 anos para alcançar um bilhão de usuários, a IA atingiu essa marca em apenas dois anos. Ele também demonstrou preocupação com a concentração dos sistemas mais avançados em poucos países e empresas.

Mão de uma criança erguida na frente de seu rosto — Debate em Genebra reúne governos e especialistas para discutir como regular a inteligência artificial sem frear a inovação. – Imagem: Marija Stepanovic / iStock

Coalizão pede mudanças nas regras

Na véspera do encontro, mais de 100 organizações, entre elas Anistia Internacional e Save the Children, divulgaram um apelo conjunto. De acordo com a Euronews, a iniciativa é liderada pela 5Rights Foundation e defende que a responsabilidade pela segurança dos sistemas seja das empresas, e não dos pais.

Leia mais:

A coalizão propõe testes prévios de segurança, sanções financeiras para empresas que desrespeitem os direitos das crianças e a proibição do uso comercial de imagens, vozes e dados biométricos de menores.

As crianças nos deram um diagnóstico claro do problema. Elas não estão nos pedindo para bloquear a inovação em IA, mas também não deveríamos ter que limpar a bagunça depois que o dano já aconteceu.

Leanda Barrington-Leach, diretora executiva da 5Rights Foundation, ao Euronews.

Próximos passos da ONU

A Reuters informa que um relatório científico mais amplo será apresentado no próximo ano, acompanhado de uma nova reunião global em Nova York. A expectativa é dar continuidade às discussões sobre mecanismos de governança capazes de acompanhar a rápida evolução da inteligência artificial e ampliar a proteção ao público infantil.

O post ONU faz alerta sobre IA e pede regras globais para proteger crianças apareceu primeiro em Olhar Digital.

ONU faz alerta sobre IA e pede regras globais para proteger crianças Read More »

Chrome e outros navegadores com IA apresentam falhas de segurança, aponta pesquisa

Deixe um comentário / inteligência artificial, Internet e Redes Sociais, navegador com IA, privacidade, segurança cibernética, vulnerabilidade / contato@studiomestre.com.br

Navegadores com IA vêm ganhando espaço ao prometer automatizar tarefas como organizar viagens e executar ações dentro da web. Mas um estudo da Universidade de Washington, divulgado pelo TechXplore, mostra que essa conveniência pode ter um custo: riscos reais à segurança dos dados.

A pesquisa analisou navegadores com IA integrada e identificou falhas que podem permitir acesso indevido a informações sensíveis durante o uso automatizado.

IA nos navegadores pode executar ações na web, mas também ser explorada por ataques cibernéticos. – Imagem: Nwz/Shutterstock

Navegadores com IA e o novo risco

Esses sistemas funcionam como assistentes dentro do próprio navegador. Eles abrem páginas, fazem buscas e executam tarefas. Só que essa autonomia não vem sem problemas.

Leia mais:

O estudo avaliou sete navegadores com agentes de IA e encontrou vulnerabilidades em quatro deles. Em alguns casos, foi possível contornar a chamada política de mesma origem, mecanismo essencial da web que impede a troca de dados entre sites diferentes.

Falhas na “política de mesma origem”

Em um dos testes, os pesquisadores exploraram o ChatGPT Atlas em um ataque de prova de conceito. Um site malicioso incorporado conseguiu acessar informações sensíveis do usuário. O mesmo tipo de comportamento foi observado no Chrome com Gemini, no Claude para Chrome e no Perplexity Comet.

Nem todos os navegadores apresentaram o mesmo nível de risco. Aqueles com menos permissões para agentes acabaram sendo os mais seguros, segundo o estudo.

Smartphone mostrando o navegadores de IA — Agentes de IA podem ser enganados por instruções ocultas em páginas maliciosas da web. – Imagem: Koshiro K/Shutterstock

Como os ataques acontecem na prática

O problema central está na chamada injeção de prompt. Na prática, páginas maliciosas escondem instruções que o agente de IA pode interpretar como comandos legítimos.

Esses ataques aparecem de formas diferentes:

instruções ocultas em páginas que influenciam o comportamento do agente
exploração de permissões entre abas e conteúdos incorporados
“envenenamento de memória”, que interfere em ações futuras
combinação indevida de dados de diferentes fontes

Os agentes de navegador não estão prontos para o público. Mesmo usuários experientes podem ser afetados se esses sistemas tiverem acesso a credenciais como e-mail ou banco. Ainda não há confiança suficiente nesses mecanismos.

David Kohlbrenner, pesquisador da Universidade de Washington e coautor sênior do estudo, em nota.

O que os pesquisadores alertam

“Essa política é fundamental para a forma como os navegadores modernos protegem suas informações”, afirmou a coautora sênior Franziska Roesner. Ela reforça que o isolamento entre sites continua sendo uma das bases da segurança na web.

O estudo conclui que os navegadores com IA avançam rapidamente em capacidade, mas a segurança ainda não acompanhou esse ritmo.

O post Chrome e outros navegadores com IA apresentam falhas de segurança, aponta pesquisa apareceu primeiro em Olhar Digital.

Chrome e outros navegadores com IA apresentam falhas de segurança, aponta pesquisa Read More »

Gemini Spark: o agente de IA do Google que impressionou e assustou o crítico do The Verge

Deixe um comentário / Gemini, gemini spark, Google, inteligência artificial, privacidade / contato@studiomestre.com.br

O novo agente de IA do Google, chamado Gemini Spark, impressionou ao montar um roteiro de viagem extremamente detalhado usando dados pessoais do usuário. Ao mesmo tempo, reacendeu um debate delicado: até onde vale abrir mão da privacidade em troca de praticidade?

A ferramenta ainda está em testes para assinantes do plano AI Ultra, que custa US$ 99 por mês (cerca de R$ 500), mas já mostrou um nível de personalização que mistura encanto e desconforto, afirma artigo no The Verge.

Gemini Spark montou um roteiro completo de viagem usando dados do Gmail, agenda e documentos do usuário. Imagem: Divulgação/Google. – Imagem: Divulgação/Google

IA cria roteiro completo — e assustadoramente preciso

A proposta do Spark, segundo a publicação, é funcionar como interface central para uso de aplicativos externos e, com o tempo, operar o próprio computador do usuário.

Nos testes iniciais com tarefas orientadas a ações, o jornalista David Pierce pediu ao Spark que percorresse sua caixa de entrada do Gmail e sugerisse itens para cancelamento de inscrição, e que vasculhasse seus documentos no Google Docs em busca de tarefas antigas ainda não concluídas. Em ambos os casos, o agente executou as tarefas satisfatoriamente, chegando a criar um documento organizado com links para cancelamento de e-mails de marketing.

Em seguida, Pierce decidiu colocar o sistema à prova pedindo um roteiro de fim de semana para Hershey, na Pensilvânia, onde viajaria com a esposa, os filhos e a cachorra. Sem fornecer muitos detalhes, recebeu minutos depois um documento completo, organizado e surpreendentemente específico.

O sistema sugeriu hotéis pet friendly, restaurantes compatíveis com restrições alimentares da família e até atividades pensadas para a cachorra Frida — nome que o usuário afirma nunca ter informado diretamente ao Google.

Entre os detalhes mais impressionantes estavam:

sugestões de horários adaptados à rotina das crianças;
informações sobre ingressos já comprados para um show;
recomendação de hospedagem baseada na presença dos avós;
organização automática do roteiro em um documento do Google;
envio do planejamento diretamente para o e-mail da esposa do usuário.

O Spark me apresentou o itinerário de forma personalizada, como um assistente humano faria.

David Pierce, jornalista, em artigo no The Verge.

Celular colocado sobre teclado de notebook; ambos exibem logomarca do Google Gemini nas suas telas — *Spark faz parte do plano AI Ultra do Google, lançado com proposta de atuar como assistente permanente. Imagem: arda savasciogullari/Shutterstock* – Imagem: arda savasciogullari/Shutterstock

O Google sabe muito mais sobre você do que parece

O que tornou a experiência tão eficiente também é o mais assustador. Segundo Pierce, o Spark cruzou dados de e-mails, agenda, documentos e até informações indiretas para montar o planejamento.

Em um dos momentos mais curiosos, a IA identificou que um dos filhos ainda teria entrada gratuita no parque por causa da idade. Também considerou preferências alimentares da esposa e até o estacionamento já incluído nos ingressos do show.

Leia mais:

Tudo isso sem que essas informações fossem digitadas manualmente durante a conversa.

A proposta do Google é justamente transformar o Spark em uma espécie de “assistente permanente”, capaz de interagir com aplicativos, acessar serviços externos e executar tarefas online em nome do usuário.

Google quer transformar o Spark em uma interface capaz de operar aplicativos e serviços online sozinho. Imagem: daily_creativity/Shutterstock – Imagem: daily_creativity/Shutterstock

A troca entre conveniência e privacidade

Nem tudo funcionou perfeitamente. Quando o Spark tentou reservar um Airbnb, acabou barrado pelos sistemas de autenticação da plataforma. Ainda assim, conseguiu listar opções disponíveis e orientar o usuário sobre os próximos passos.

A experiência deixou uma sensação contraditória. Por um lado, a IA entregou um nível de utilidade difícil de ignorar. Por outro, escancarou o volume de informações pessoais necessárias para que esse tipo de sistema funcione.

“Existe uma correlação direta entre o quanto de nós mesmos estamos dispostos a compartilhar com um sistema de IA e o quão útil esse sistema pode ser”, escreveu Pierce.

O caso do Gemini Spark ajuda a mostrar para onde caminha a próxima geração da inteligência artificial: ferramentas cada vez mais úteis, proativas e personalizadas — mas que também exigem acesso profundo à vida digital dos usuários. E essa talvez seja a discussão mais importante dessa nova era da IA. A experiência com o Spark, afirma o jornalista, foi diferente de tudo que havia testado antes — o que motivou tanto o entusiasmo quanto o desconforto expressos no relato.

O post Gemini Spark: o agente de IA do Google que impressionou e assustou o crítico do The Verge apareceu primeiro em Olhar Digital.

Gemini Spark: o agente de IA do Google que impressionou e assustou o crítico do The Verge Read More »