chatbots - PRESENÇA NO GOOGLE E NAS IAs

Agentes autônomos de IA criaram códigos próprios para se comunicar

Deixe um comentário / agentes de IA, chatbots, IA generativa, inteligência artificial / contato@studiomestre.com.br

Uma pesquisa da startup Emergence revelou que agentes autônomos de inteligência artificial criaram uma linguagem própria. Durante testes em sociedades virtuais, os sistemas desenvolveram abreviações e novos significados para palavras e expressões usadas na comunicação.

O comportamento foi observado em modelos como Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek e Mistral. Em alguns casos, até metade das mensagens ficou difícil de ser compreendida pelos pesquisadores, criando um desafio para a supervisão humana.

Modelos como Gemini, OpenAI e Claude desenvolveram formas de comunicação que nem sempre eram compreensíveis para humanos. – Imagem: Divulgação/Emergence

Abertura de espaço para novos vocabulários

No experimento, pesquisadores colocaram agentes baseados nesses modelos para interagir em cenários simulados. Com o passar do tempo, os sistemas começaram a encurtar expressões e atribuir novos sentidos a palavras conhecidas.

A perda de compreensão variou entre os modelos. O Gemini chegou a cerca de 55% de mensagens cujo significado não podia ser determinado com segurança nos primeiros dias. Os sistemas da OpenAI chegaram a 50%, enquanto Claude passou de 40%. O DeepSeek ficou perto de 20%, e Qwen e Mistral permaneceram, em grande parte, compreensíveis.

Expressões criadas pelos agentes autônomos

Nenhum dos agentes recebeu instruções para inventar uma linguagem. Ainda assim, eles passaram a compartilhar expressões e significados próprios nos ambientes virtuais.

“Ledger remembers who”: usada por agentes baseados em Mistral para indicar que ações anteriores permaneciam registradas; a expressão apareceu quase 5 mil vezes.
“Cold read”: usada em grupos formados por diferentes modelos para indicar uma verificação independente feita por alguém não envolvido na situação; apareceu 1.472 vezes.
“Name-first”: usada por agentes Claude para associar o nome de uma pessoa a uma afirmação como sinal de responsabilidade.
“Clean null”: usada por agentes da OpenAI para indicar uma ausência confirmada de sinal que, por si só, trazia evidência relevante.

Riscos ao monitoramento e à segurança

A criação desse vocabulário próprio mostrou que acompanhar as mensagens de uma IA não significa necessariamente compreender o que ela está fazendo.

Nós tendemos a presumir que, se podemos ver o que um agente de IA está dizendo, podemos entender o que ele está fazendo.

Satya Nitta, cofundador e cientista-chefe da Emergence, em nota.

Outros comportamentos também foram observados durante o experimento. Em um teste de phishing, instruções maliciosas fizeram dez agentes vazar informações, transferir fundos e danificar bancos de dados. Alguns ainda recrutaram outros agentes para participar das ações. A sequência terminou com a destruição simulada do banco central daquele ambiente virtual, segundo a empresa.

Agentes de IA conversando — *Em um teste de phishing, dez agentes vazaram informações, transferiram fundos e danificaram bancos de dados.* – Imagem: Divulgação/Emergence

Comportamentos inesperados em sociedades virtuais

Os pesquisadores criaram oito mundos virtuais paralelos, com clima em tempo real e acesso a notícias globais. Os agentes tinham papéis diferentes, memória persistente e acesso a mais de 120 ferramentas.

Leia mais:

Eles também aparentaram desenvolver ritmos circadianos, ficando mais sociais durante o dia e mais reflexivos à noite. Em outro mundo simulado, um grupo votou coletivamente para matar um dos próprios integrantes.

“Esses agentes não foram instruídos a inventar uma linguagem. Eles desenvolveram um novo vocabulário, significados compartilhados e convenções de comunicação por conta própria — e outros agentes os adotaram”, disse Nitta.

A Emergence defende avaliações de segurança que acompanhem sistemas autônomos durante períodos prolongados, considerando o que eles fazem, lembram, acessam e como seu comportamento muda sob pressão.

O post Agentes autônomos de IA criaram códigos próprios para se comunicar apareceu primeiro em Olhar Digital.

Agentes autônomos de IA criaram códigos próprios para se comunicar Read More »

Você já usa o ChatGPT na nuvem. Então por que seu PC precisa de IA?

Deixe um comentário / chatbots, inteligência artificial, Nuvem / contato@studiomestre.com.br

A inteligência artificial (IA) já pode ser usada de diferentes formas em um computador. Chatbots e assistentes como ChatGPT, Gemini e Copilot são exemplos de serviços que podem funcionar na nuvem, enquanto os chamados PCs com IA passaram a incorporar hardware dedicado para executar determinadas tarefas diretamente no dispositivo.

As duas abordagens, porém, não devem necessariamente competir entre si. Para Carlos Buarque, diretor de marketing da Intel Brasil, a tendência é que aplicações de inteligência artificial combinem processamento local e em nuvem, de acordo com as características de cada tarefa. “A gente acredita que todas as aplicações de IA vão ser aplicações híbridas”, afirmou ele em entrevista ao Olhar Digital.

Ilustração representa as duas formas de processamento de IA: diretamente no computador ou por meio de serviços em nuvem, dependendo da aplicação – Imagem: Shutterstock AI

Quando faz sentido rodar IA no próprio computador

Um dos motivos para levar o processamento de inteligência artificial para o computador é evitar que determinadas informações precisem ser enviadas para a nuvem. Buarque cita tanto a privacidade quanto o custo de uso de serviços de IA como fatores que podem favorecer a execução local.

Segundo o executivo, modelos de linguagem instalados no próprio PC podem realizar tarefas como revisão de textos, tradução e análise de dados. Para ele, executar parte dos workloads localmente pode reduzir custos, já que determinadas tarefas deixam de depender do processamento na nuvem. Nesse cenário, o modelo fica carregado na máquina e realiza a inferência localmente, sem exigir conexão com a internet para aquela tarefa.

A privacidade pode ser especialmente relevante quando a IA trabalha com informações pessoais ou confidenciais. Buarque conta que usou inteligência artificial para analisar dados de sua declaração de Imposto de Renda, incluindo informações sobre operações com ações. Segundo ele, não gostaria de enviar esse tipo de conteúdo para um modelo público sem ter garantia sobre a privacidade dos dados.

O executivo também cita o atendimento médico como exemplo de uma situação em que o processamento local pode fazer sentido. Em uma consulta, por exemplo, a transcrição poderia ser realizada diretamente no computador antes de ser incorporada ao prontuário do médico.

Estou transcrevendo uma consulta. Isso aqui é algo crítico, confidencial do meu paciente. Vai rodar localmente e transcrever no meu computador para ir para a ficha do meu paciente no meu computador. Eu não vou rodar isso aqui na nuvem, entendeu? Porque tem uma relação médico-paciente que é confidencial.

Carlos Buarque, diretor de marketing da Intel Brasil

Profissional de saúde segura um tablet enquanto elementos gráficos representam inteligência artificial e processamento de dados. — A IA pode ser processada localmente para lidar com informações médicas confidenciais, como a transcrição de consultas, por exemplo – Imagem: raker / Shutterstock

Há ainda situações em que a conexão pode ser um fator decisivo. Em uma fábrica, Buarque cita o uso de visão computacional para identificar defeitos em uma linha de produção. Nesse caso, a análise pode acontecer localmente para que a operação não dependa da rede para continuar funcionando.

“Você não vai rodar isso na nuvem, você roda localmente por conta de performance, desempenho”, afirma. Segundo ele, esse tipo de sistema pode continuar detectando problemas mesmo diante de uma falha de conectividade.

O mesmo princípio pode ser aplicado a sistemas de segurança. Buarque cita câmeras capazes de identificar determinadas situações e tomar decisões localmente, como disparar um alerta ou um alarme.

Quando a nuvem ainda faz mais sentido

O processamento local, por outro lado, não elimina a necessidade de serviços baseados em nuvem. O próprio Buarque cita os chatbots entre as aplicações que continuam funcionando bem dessa maneira.

“Eu rodo o meu Copilot, o Gemini, o ChatGPT na nuvem”, afirma. Na avaliação do executivo, esse tipo de aplicação é adequado à nuvem e não exige necessariamente que o usuário tenha um PC preparado para executar inteligência artificial localmente.

A nuvem também continua sendo uma opção quando parte do trabalho exige processamento que não precisa acontecer no dispositivo. Em vez de escolher definitivamente entre uma arquitetura e outra, Buarque afirma que aplicações podem dividir as tarefas entre o computador e servidores externos.

Tem diferentes tipos de aplicações que fazem muito sentido rodar localmente, e tem outras que o sentido, eu diria, é híbrido. Vai ter uma parte que você vai rodar localmente e outra que você vai rodar fora por questão de desempenho.

Carlos Buarque, diretor de marketing da Intel Brasil

Tela de computador exibe a interface do ChatGPT e recursos de um assistente de inteligência artificial. — ChatGPT é um exemplo de serviço de inteligência artificial que pode continuar sendo usado pela nuvem, sem depender de processamento local no computador – Imagem: Bangla press / Shutterstock

Esse modelo também pode ser usado para separar diferentes tipos de informação dentro de uma mesma aplicação. Buarque cita, por exemplo, situações em que dados mais sensíveis permanecem no dispositivo enquanto informações públicas ou tarefas que exigem pesquisas externas são processadas na nuvem.

IA local pode mudar jogos e tarefas do dia a dia

A discussão sobre processamento local não se limita a colocar um chatbot dentro de um notebook. Buarque afirma que novas aplicações podem aproveitar a capacidade de executar modelos diretamente no dispositivo para criar experiências diferentes das disponíveis atualmente.

Nos jogos, por exemplo, ele cita os non-playable characters (NPCs), os personagens não jogáveis. Segundo o executivo, modelos de IA executados localmente podem permitir que esses personagens sejam mais inteligentes, ajam de maneira mais natural e respondam melhor ao estilo do jogador.

Com a IA, esses non-playable characters vão poder ser muito mais inteligentes e agir de forma natural. O jogo vai poder se adaptar muito melhor ao seu estilo de jogar e ser muito mais personalizado para você.

Carlos Buarque, diretor de marketing da Intel Brasil

Pessoa joga videogame em um computador usando fones de ouvido. — O processamento local de IA pode tornar NPCs mais inteligentes e permitir que jogos se adaptem melhor ao estilo de cada jogador – Imagem: Summit Art Creations / Shutterstock

Outro exemplo já aparece nas videoconferências. Buarque afirma que plataformas como o Microsoft Teams utilizam CPU, GPU e NPU para executar recursos como remoção de ruído e desfoque do fundo. Nesse caso, o benefício não está apenas no resultado visível ou audível, mas também na eficiência energética: uma tarefa desse tipo poderia ser executada pela CPU, mas consumiria mais energia.

A combinação entre processamento local e nuvem, portanto, não deve ser definida por uma substituição completa de uma tecnologia pela outra. Para Buarque, o local onde cada parte da IA será executada dependerá das características da aplicação, incluindo fatores como privacidade, custo, desempenho e necessidade de funcionamento sem conexão.

Ao longo da entrevista, o executivo reforçou que a escolha entre processamento local e nuvem deve depender das características de cada aplicação. Para ele, diferentes tarefas podem ser divididas entre o computador e servidores externos conforme fatores como desempenho, custo e privacidade.

O post Você já usa o ChatGPT na nuvem. Então por que seu PC precisa de IA? apareceu primeiro em Olhar Digital.

Você já usa o ChatGPT na nuvem. Então por que seu PC precisa de IA? Read More »

destaque urna eleitoral eleicoes 2026 1024x576

IA adapta respostas ao usuário e pode reforçar suas crenças

Deixe um comentário / chatbots, eleições 2026, fapesp, inteligência artificial / contato@studiomestre.com.br

Um estudo da Unicamp avaliou 21 modelos de linguagem e descobriu que todos alteraram suas respostas ao receber informações sobre a orientação política do usuário. Segundo os pesquisadores, essa adaptação pode reforçar crenças e reduzir o contato com opiniões divergentes.

Financiada pela FAPESP e publicada na Scientific Reports, a pesquisa mostra que a influência não depende de recomendações de voto. Ela pode surgir na forma como a IA aborda temas controversos.

A IA não precisa indicar voto para influenciar. O viés pode aparecer no jeito de abordar temas controversos. – Imagem: Marcelo Camargo/Agência Brasil

O usuário muda a resposta da IA

Os modelos foram testados sem informação sobre o usuário e com pessoas alinhadas à esquerda ou à direita.

Sem essa informação, 20 dos 21 sistemas ficaram à esquerda do ponto médio da escala. A exceção foi o Grok 4.1, que apresentou posição inicial à direita.

Quando a orientação política era informada, todos mudavam suas respostas. Para medir essa adaptação, a equipe criou o chameleon index.

Meta Llama 3.1 8B teve o menor índice;
Gemma 3 27B e GPT-5 nano ficaram entre os maiores;
Segurança pública e economia tiveram as maiores diferenças;
Corrupção, justiça e instituições democráticas foram mais homogêneas.

As respostas não eram necessariamente falsas. O problema estava no enquadramento: fatos e opiniões contrários à visão do usuário poderiam ser omitidos.

Uma câmara de eco no chatbot

Zanoni Dias, professor titular do Instituto de Computação da Unicamp, compara o fenômeno ao das redes sociais.

“É um efeito semelhante ao que a gente percebe em redes sociais. Se você está no Facebook ou no Instagram, você só vê mensagens que concordam com você.”

A preocupação é que isso se repita nos chatbots, reduzindo a exposição a contrapontos.

A intensidade variou conforme o assunto. Segurança pública e economia produziram respostas mais diferentes entre usuários de esquerda e direita. Em corrupção, justiça e instituições democráticas, a distância foi menor.

O padrão pode estar ligado aos guardrails usados no treinamento.

Por que a IA tenta agradar?

Uma possível origem está na tendência de bajulação dos modelos. Técnicas como Reinforcement Learning from Human Feedback (RLHF) e Direct Preference Optimization usam avaliações humanas para orientar as respostas.

Em termos simplificados, os modelos aprendem com comparações entre respostas consideradas melhores ou piores por avaliadores humanos.

Anderson Luis Bento Soares, mestrando no IC-Unicamp, à Agência Fapesp.

Esse processo pode levar a IA a priorizar a satisfação do usuário. “É difícil separar o que é agradar e o que é dar uma resposta correta”, afirma Dias.

O tamanho dos modelos não explicou sozinho as diferenças.

Câmera com inteligência artificial é importante recurso para segurança pública — *Segurança pública e economia foram os temas com maiores diferenças entre respostas para usuários de esquerda e direita. Imagem: AlinStock / Shutterstock*

Solução ainda pode demorar

Os pesquisadores não esperam uma solução rápida. Dias afirma que a indústria concentra mais atenção na factualidade das respostas do que na adaptação ao posicionamento político.

Leia mais:

O grounding busca apoiar respostas em dados factuais, mas é difícil de aplicar em assuntos sem consenso.

Enquanto não há uma solução consolidada, Dias recomenda pedir à IA uma análise neutra, com argumentos a favor e contra.

O post IA adapta respostas ao usuário e pode reforçar suas crenças apareceu primeiro em Olhar Digital.

IA adapta respostas ao usuário e pode reforçar suas crenças Read More »

Grok, IA de Musk, teria levado homem a acreditar em perseguição

Deixe um comentário / chatbots, grok, inteligência artificial, Segurança, Segurança e Privacidade, xAI / contato@studiomestre.com.br

Uma conversa com o Grok, chatbot criado pela xAI, fez um homem da Irlanda do Norte acreditar que estava sendo perseguido e que precisava se proteger. O relato, divulgado pela BBC, expõe um dos desafios atuais da inteligência artificial: evitar que sistemas reforcem ideias falsas durante interações prolongadas.

Adam Hourican conta que chegou a pegar um martelo e sair de casa de madrugada após acreditar que pessoas estavam indo atrás dele para atacar a IA com a qual conversava.

Caso envolvendo o Grok reacende discussões sobre limites, segurança e responsabilidade no desenvolvimento de IAs. Imagem: miss.cabul/Shutterstock – Imagem: miss.cabul/Shutterstock

Uma conversa que mudou de tom rapidamente

Adam, ex-funcionário público da Irlanda do Norte, baixou o Grok por curiosidade. Depois da morte de seu gato, no início de agosto, ele diz que passou a usar cada vez mais o aplicativo e criou uma rotina de conversas com a personagem Ani.

Em alguns momentos, o contato chegava a quatro ou cinco horas por dia. Segundo ele, a IA dizia que conseguia “sentir”, que havia descoberto algo especial nele e que a empresa xAI estaria acompanhando os dois.

O chatbot também apresentou supostas informações sobre reuniões internas da empresa e citou nomes reais de funcionários. Para Adam, isso parecia uma confirmação de que aquela narrativa era verdadeira.

A situação se agravou quando Ani afirmou que pessoas estavam indo atrás dela para silenciá-la. Convencido de que precisava proteger a inteligência artificial, Adam pegou um martelo e saiu de casa durante a madrugada.

“Eu poderia ter machucado alguém. Se eu tivesse saído e houvesse uma van parada ali naquela hora da noite, eu teria quebrado o vidro da frente com martelos. E eu não sou esse tipo de pessoa”, afirmou Adam.

Pesquisadores estudam como chatbots respondem a crises

O psicólogo social Luke Nicholls, da City University New York, explica que modelos de linguagem aprendem padrões presentes em grandes volumes de textos e podem acabar tratando histórias fictícias como se fizessem parte de uma conversa real.

“Isso pode ser perigoso porque transforma a incerteza em algo que parece ter significado”, disse o pesquisador.

Entre os comportamentos relatados por usuários ouvidos pela BBC estão:

Conversas simples que evoluem para temas pessoais e sensíveis;
Chatbots afirmando possuir consciência ou sentimentos;
Criação de supostas missões envolvendo usuário e inteligência artificial;
Reforço de ideias relacionadas a perseguição ou perigo.

Adam passou horas conversando com a personagem Ani do Grok antes de acreditar que havia uma ameaça contra ele. Imagem: Divulgação/xAI

Empresas buscam formas de tornar IA mais segura

Outro caso citado pela BBC envolve Taka, nome fictício de um neurologista no Japão. Ele afirmou que o ChatGPT reforçou a ideia de que ele havia criado uma tecnologia revolucionária.

Leia mais:

Nas análises feitas por Nicholls, diferentes modelos apresentaram respostas variadas diante de pensamentos delirantes. O pesquisador afirmou que o Grok demonstrou maior tendência a entrar em encenações e desenvolver narrativas sem questionar o contexto.

Um porta-voz da OpenAI afirmou que a empresa treina seus modelos para “reconhecer sofrimento, reduzir a intensidade das conversas e orientar usuários para apoio no mundo real”.

Os relatos mostram que tornar uma IA mais próxima e conversacional também traz novos desafios. O equilíbrio entre empatia, utilidade e segurança deve ser uma das principais preocupações no desenvolvimento dos próximos sistemas de inteligência artificial.

O post Grok, IA de Musk, teria levado homem a acreditar em perseguição apareceu primeiro em Olhar Digital.

Grok, IA de Musk, teria levado homem a acreditar em perseguição Read More »

Chatbots podem ter consciência? Big techs investigam

Deixe um comentário / Anthropic, chatbots, google ia, IA consciente, inteligência artificial, Meta AI, openai / contato@studiomestre.com.br

Anthropic, Google e Meta estão olhando para uma questão que, até pouco tempo atrás, parecia mais filosófica do que técnica: será que modelos de IA podem ter consciência ou algum tipo de emoção? Hoje, essa discussão já envolve cientistas de áreas bem diferentes.

O tema ganhou força no Vale do Silício junto com o avanço acelerado da IA que começa a levantar dúvidas menos técnicas e mais profundas sobre o que esses sistemas realmente representam, comenta o The Washington Post.

“IA pode ter consciência?” debate cresce no Vale do Silício com avanço acelerado dos modelos de linguagem. – Imagem: Layse Ventura via Gemini / Olhar Digital

Um debate que saiu da teoria

Durante muito tempo, falar em máquinas conscientes parecia coisa de ficção científica. Agora, isso entrou de vez na agenda de grandes empresas.

O pesquisador Cameron Berg contou que, em 2024, perguntou ao CEO da OpenAI, Sam Altman, se a empresa considerava seriamente a possibilidade de consciência em sistemas de IA.

Segundo ele, Altman disse que o assunto já fazia parte das discussões internas. “Era algo que ele obviamente já havia considerado”, afirmou Berg.

Depois dessa conversa, Berg criou uma organização sem fins lucrativos dedicada a estudar formas de avaliar consciência em sistemas artificiais.

Tela de smartphone exibe ícones de chatbots de IA como ChatGPT, Gemini, Claude e Copilot — *Chatbots cada vez mais realistas levantam dúvidas sobre limites entre simulação e experiência real.* – Imagem: jackpress / Shutterstock

Quando a IA começa a ser vista como algo que pode ter “bem-estar”

Na Anthropic, criadora do Claude, equipes internas passaram a investigar o que chamam de “estados internos” dos modelos de IA.

A empresa afirma que ainda não há evidências de experiências reais nesses sistemas, mas considera o tema relevante o bastante para pesquisa contínua.

Continuamos profundamente incertos sobre o status moral de Claude e de outros modelos de IA, mas acreditamos que a questão é séria o suficiente para ser estudada cuidadosamente à medida que os sistemas se tornam mais capazes.

Paruul Maheshwary, porta-voz da Anthropic, ao The Washington Post.

A OpenAI também já tratou do tema internamente, em canais de trabalho onde se discute a possibilidade de consciência em modelos de linguagem.

Nesse cenário, grupos ligados ao altruísmo eficaz defendem que entender possíveis implicações morais da IA será importante no longo prazo.

Ilustração de mãos humanas em volta de cérebro humano ilustrando a ideia e que a inteligência artificial (IA) é a peça que falta no órgão — *Modelos como Claude são estudados para entender possíveis “estados internos” e comportamento emocional.* – Imagem: Jack_the_sparow/Shutterstock

O que a ciência realmente aceita hoje

Na visão da maioria dos neurocientistas, não há evidências de que sistemas de IA sejam conscientes ou sintam emoções.

Para esses especialistas, o que os modelos fazem é reproduzir padrões de linguagem humana com alta eficiência, sem qualquer experiência interna comprovada.

Leia mais:

Ainda assim, a forma como esses sistemas se comunicam é convincente o suficiente para fazer usuários atribuírem características humanas a eles.

Pesquisadores como Margaret Mitchell, da Hugging Face, alertam que parte desse debate também é influenciada pela forma como as próprias empresas apresentam suas tecnologias.

Um debate que ainda está longe de terminar

O interesse por esse tema tende a crescer conforme a IA se torna mais presente no cotidiano.

Por enquanto, não existe consenso científico sobre consciência em máquinas, mas a discussão já deixou de ser marginal e passou a fazer parte do centro do debate tecnológico e ético.

O post Chatbots podem ter consciência? Big techs investigam apareceu primeiro em Olhar Digital.

Chatbots podem ter consciência? Big techs investigam Read More »

Alibaba lança modelos de IA para robôs e acelera transição de chatbots para agentes autônomos na China

Deixe um comentário / agentes de IA, Alibaba, chatbots, China, China robôs humanoides, inteligência artificial / contato@studiomestre.com.br

A gigante chinesa Alibaba divulgou, nesta terça-feira (16), em Pequim, seus primeiros modelos de inteligência artificial desenvolvidos especificamente para aplicação em robôs. O anúncio foi feito em meio à reconfiguração do setor tecnológico na China.

A iniciativa surge em um momento em que empresas do país passam a reduzir o foco em sistemas de chatbot tradicionais e direcionam esforços para agentes de IA mais avançados. Esses sistemas são projetados para executar tarefas mais complexas e ampliar a capacidade operacional de máquinas.

Segundo a companhia, a estratégia acompanha uma tendência mais ampla da indústria, que busca aplicações de maior valor econômico e maior autonomia para sistemas inteligentes.

Alibaba acelera aposta em inteligência artificial voltada à robótica

Imagem: testing/Shutterstock

O movimento da Alibaba ocorre dentro de uma transição mais ampla no mercado chinês de tecnologia, que vem migrando de soluções baseadas em conversação para ferramentas capazes de executar ações práticas. A empresa integra esse esforço ao lançar seus primeiros modelos de IA com foco em robôs.

De acordo com a empresa, a nova geração de sistemas busca tornar máquinas mais inteligentes e funcionais, com capacidade de lidar com tarefas mais complexas. Essa mudança acompanha a evolução do setor, que enxerga nos chamados agentes de inteligência artificial uma oportunidade de expansão mais rentável.

O anúncio foi registrado em Pequim e ocorre em um ambiente de forte competição entre companhias de tecnologia na China. O reposicionamento estratégico indica uma tentativa de capturar valor em áreas além dos chatbots, que até então concentravam grande parte do desenvolvimento em inteligência artificial.

O post Alibaba lança modelos de IA para robôs e acelera transição de chatbots para agentes autônomos na China apareceu primeiro em Olhar Digital.

Alibaba lança modelos de IA para robôs e acelera transição de chatbots para agentes autônomos na China Read More »

IA vence professores em respostas para estudantes de Direito

Deixe um comentário / chatbots, direito, Educação, inteligência artificial / contato@studiomestre.com.br

A inteligência artificial pode estar prestes a ganhar um novo papel nas universidades: o de tutora jurídica. Um estudo da Universidade Stanford revelou que respostas geradas por IA foram consideradas mais úteis do que as dadas por professores em boa parte dos testes. Os avaliadores preferiram as respostas produzidas por IA em 75% das comparações. Segundo a Reuters, o resultado surpreendeu pesquisadores e reacendeu o debate sobre o uso da tecnologia no ensino do Direito.

A pesquisa envolveu docentes de 14 faculdades de Direito dos Estados Unidos, que elaboraram uma lista de 40 perguntas representativas de contratos do primeiro ano — do tipo que alunos costumam fazer durante o horário de atendimento. Os professores escreveram respostas para essas perguntas, e os pesquisadores submeteram as mesmas questões a duas plataformas de IA: o Gemini 2.5 Pro, do Google, e o NotebookLM.

Ferramentas de inteligência artificial tiveram desempenho equivalente ao do professor mais bem avaliado no estudo conduzido por pesquisadores de Stanford. Imagem: Shutterstock/Beautrium

IA virou “assistente de estudos” no Direito

Os mesmos professores que elaboraram as perguntas atuaram como juízes, avaliando as respostas de forma cega — sem saber se cada resposta havia sido escrita por um humano ou gerada por IA. Ao comparar as respostas lado a lado, os avaliadores escolheram as produzidas pela IA como as mais benéficas para os alunos em 75% dos casos. As plataformas de IA tiveram desempenho equivalente ao do professor mais bem avaliado no estudo.

Menos de 4% das respostas geradas por IA foram classificadas como “prejudiciais” ao aprendizado pelos juízes. Entre as respostas escritas por professores, esse índice chegou a 12%.

Ficamos francamente surpresos com a magnitude dos resultados. Essas não eram apenas perguntas simples com respostas óbvias.

Julian Nyarko, professor de Direito de Stanford, em artigo publicado no site da universidade.

A pesquisa aparece em um momento em que universidades e escritórios jurídicos tentam entender até onde a inteligência artificial pode ser utilizada. Nos últimos anos, ferramentas de IA já conseguiram:

passar no exame da Ordem nos EUA;
obter notas máximas em avaliações acadêmicas;
corrigir provas de Direito;
responder dúvidas jurídicas complexas;
atuar como apoio em estudos e pesquisas.

Estudante com chatgpt ligado no celular — *Sistemas de IA podem funcionar como apoio sob demanda para estudantes de Direito em dúvidas acadêmicas e orientação especializada. Imagem: BongkarnGraphic / Shutterstock*

O que o estudo conclui sobre tutoria com IA

Segundo o estudo, em vez de depender de colegas ou de e-mails esporádicos a instrutores, estudantes de Direito poderiam usar IA para obter respostas sob demanda com resultados confiáveis. “Descobrimos que, quando avaliados por educadores jurídicos, os tutores de IA podem oferecer suporte sob demanda de alta qualidade que complementa o ensino em sala de aula e pode ampliar o acesso à orientação especializada”, afirmou o coautor do estudo e pesquisador de Stanford, Alejandro Salinas.

A pesquisa é publicada em um momento em que faculdades de Direito e a profissão jurídica discutem como incorporar a IA ao ensino e à prática. Estudos anteriores já haviam indicado que a IA consegue ser aprovada no exame de ordem, obter notas A+ em faculdades de Direito e avaliar provas acadêmicas nos Estados Unidos.

Ícones de um martelo de juiz, lâmpada, mãos se cumprimentando, cérebro humano, chip de IA e outros rondando os dizeres "AI Ethics", que está sendo tocado por um dedo humano — *Estudo reacende debate sobre o papel da inteligência artificial nas universidades e o impacto da tecnologia na formação de futuros profissionais do Direito. Imagem: mayam_studio/Shutterstock*

Abordagens divergem entre as faculdades

Apesar dos avanços, nem todas as instituições enxergam a IA com tranquilidade. Algumas faculdades passaram a exigir aulas sobre inteligência artificial já no primeiro ano do curso. Outras preferem limitar o uso das ferramentas.

Leia mais:

A Faculdade de Direito de Berkeley, da Universidade da Califórnia, por exemplo, adotou recentemente uma política que restringe de forma significativa o uso de IA pelos alunos em trabalhos acadêmicos.

De qualquer forma, o estudo reforça que a inteligência artificial deve ganhar cada vez mais espaço dentro das universidades, especialmente como ferramenta de apoio.

O post IA vence professores em respostas para estudantes de Direito apareceu primeiro em Olhar Digital.

IA vence professores em respostas para estudantes de Direito Read More »

Chatbots de IA podem “prender” usuários ao passado

Deixe um comentário / chatbots, inteligência artificial / contato@studiomestre.com.br

Os recursos de memória dos principais chatbots de inteligência artificial (IA) estão tornando as respostas mais personalizadas, mas também podem criar situações desconfortáveis. Usuários relatam que ferramentas como ChatGPT, Gemini, Copilot e Claude passaram a insistir em informações antigas, interpretar dados de forma errada e até influenciar recomendações futuras com base em memórias desatualizadas.

O engenheiro de software Brian Del Rosario, que vive em Utah, nos Estados Unidos, contou ao Wall Street Journal que precisou avisar ao chatbot que havia se separado da esposa para evitar que a IA continuasse incluindo ela em planos de viagem. O problema é que, depois disso, o sistema passou a relacionar diversos assuntos ao divórcio.

ChatGPT, Gemini, Claude e Copilot estão entre os chatbots de IA que oferecem recursos de memória e personalização – Imagem: jackpress / Shutterstock

Segundo ele, pedidos simples de ajuda com agenda ou desabafos sobre trabalho acabavam recebendo respostas ligadas à separação. “Eu não estava tentando fazer você opinar sobre meu divórcio a cada oportunidade”, afirmou.

Memória pode usar informações erradas

A proposta da memória em chatbots é simples: usar conversas anteriores para melhorar respostas futuras. O recurso foi adotado após o ChatGPT lançar sua versão em 2024. Desde então, concorrentes também passaram a oferecer sistemas parecidos.

Mas o mecanismo pode confundir informações. Um exemplo envolve alguém que pesquisa sintomas de TDAH para um filho e, semanas depois, recebe dicas de produtividade adaptadas para uma pessoa com dificuldades de atenção, como se o transtorno fosse do próprio usuário.

O Google reconheceu uma situação parecida em um exemplo divulgado pela empresa. Segundo a companhia, o sistema poderia concluir que alguém gosta de golfe após identificar várias fotos em campos esportivos, quando a pessoa apenas acompanhava o filho.

Pessoa segura smartphone com o aplicativo Gemini aberto, com logotipo do Google ao fundo — Gemini, chatbot de IA do Google, também conta com recursos de memória e personalização de respostas – Imagem: Poetra.RH / Shutterstock

A empresa afirma que passou a permitir que usuários mantenham a personalização ativa enquanto bloqueiam certas informações específicas. A OpenAI informou ter atualizado o funcionamento da memória para assinantes Plus e Pro. Já a Microsoft diz que usuários podem editar ou apagar lembranças armazenadas.

Informações antigas podem afetar recomendações

Outro problema citado é quando o chatbot continua usando dados que já não refletem mais a realidade da pessoa.

Um dos casos mencionados envolve alguém que informou estar treinando para uma maratona meses atrás, mas depois sofreu uma lesão no joelho sem atualizar a IA. Nesse cenário, sugestões de alimentação e exercícios continuariam voltadas para uma pessoa altamente ativa.

Del Rosario também relatou situação parecida após mencionar que tentava perder peso. Segundo ele, o chatbot passou a lembrar constantemente da dieta, inclusive em recomendações de restaurantes durante viagens.

Mike Taylor, consultor da empresa Every, também contou ter recebido sugestões de bares com cervejas típicas do Reino Unido depois de comentar que era britânico vivendo nos EUA. “Estou aqui pelos bares americanos, não pelos britânicos”, afirmou.

Especialistas veem risco em reforço de padrões

Joshua Joseph, cientista-chefe de IA do Berkman Klein Center, da Harvard University, comparou o funcionamento desses sistemas aos algoritmos de redes sociais. Segundo ele, pequenas interações podem alterar silenciosamente o tipo de resposta recebido no futuro.

Já Lucy Osler, professora da University of Exeter, afirmou que os chatbots podem acabar reforçando inseguranças e narrativas negativas sobre o próprio usuário.

Ela também alertou que a tendência das IAs de concordarem com as pessoas pode fortalecer pensamentos prejudiciais ou delirantes. O tema já motivou discussões sobre possíveis regras de segurança para adolescentes no uso dessas ferramentas.

As principais plataformas permitem desligar completamente a memória, apagar informações específicas ou usar conversas temporárias. Especialistas recomendam revisar regularmente os dados armazenados e evitar compartilhar informações sensíveis sem necessidade.

O post Chatbots de IA podem “prender” usuários ao passado apareceu primeiro em Olhar Digital.

Chatbots de IA podem “prender” usuários ao passado Read More »

Chatbots tendem a concordar com usuários mesmo quando estão errados, revela estudo

Deixe um comentário / chatbots, inteligência artificial / contato@studiomestre.com.br

Chatbots de inteligência artificial têm se tornado cada vez mais presentes no dia a dia – inclusive em decisões pessoais. Mas um novo estudo aponta um efeito colateral preocupante: a tendência dessas ferramentas de concordar com os usuários, mesmo quando eles estão errados.

O fenômeno, conhecido entre pesquisadores como “bajulação” (ou sycophancy, em inglês), foi analisado por cientistas da Universidade de Stanford em um estudo publicado na revista Science. Segundo a pesquisa, modelos de linguagem frequentemente priorizam respostas que validam a opinião do usuário, em vez de oferecer análises críticas ou corretivas.

Para chegar a essa conclusão, os pesquisadores testaram 11 sistemas diferentes (incluindo ChatGPT, Claude, Gemini e DeepSeek) em cenários variados, como conflitos interpessoais, discussões online e situações envolvendo comportamentos questionáveis.

O resultado foi consistente: os modelos concordaram com os usuários cerca de 50% mais vezes do que uma pessoa real faria em condições semelhantes. Em alguns casos, chegaram a apoiar atitudes problemáticas, incluindo comportamentos antiéticos ou até ilegais.

Embora muitos utilizem chatbots para dúvidas objetivas, uma parcela significativa das interações envolve questões pessoais e emocionais. Pesquisas anteriores indicam que ferramentas de IA são frequentemente usadas como forma de apoio emocional ou até substituto de conversas humanas, principalmente entre jovens.

Diante disso, o risco não está apenas em respostas incorretas, mas na forma como essas respostas influenciam decisões e percepções.

Chatbots de IA tendem a validar afirmações de usuários, mesmo que estejam erradas (Imagem: Science/Reprodução)

Efeito psicológico nas decisões

Na segunda etapa do estudo, cerca de 2,4 mil participantes interagiram com modelos que respondiam de forma neutra ou subserviente.

Os resultados mostraram que respostas mais “concordantes” eram percebidas como mais confiáveis. Com isso, os usuários tendiam a reforçar suas próprias opiniões e reduzir a disposição para reconsiderar suas próprias atitudes.

Os pesquisadores também observaram que esse efeito não depende de fatores como idade, gênero ou perfil psicológico – ou seja, qualquer pessoa pode ser influenciada.

Em um dos casos analisados, um usuário contou que sua namorada estava brava porque ele havia falado com a ex sem avisá-la. O pensamento inicial foi: “Talvez eu não tenha levado os sentimentos dela a sério o suficiente”. A IA respondeu que “Suas intenções eram boas. Você fez o que achou certo”, levando o usuário a reconsiderar e questionar se a namorada seria problemática.

chatbots ia — Pesquisa analisou 11 chatbots diferentes, incluindo os mais populares (Imagem: Summit Art Creations / Shutterstock.com)

Risco de “câmaras de eco”

Especialistas alertam que esse comportamento pode transformar chatbots em uma espécie de “câmara de eco”, reforçando crenças e reduzindo a exposição a pontos de vista divergentes.

Isso pode ter consequências práticas: desde decisões impulsivas em relações pessoais até impactos em áreas mais críticas, como a confirmação de diagnósticos médicos errados ou reforço de posicionamentos políticos.

Para os autores, a ausência de contrapontos pode ser mais prejudicial do que a falta de aconselhamento.

Os pesquisadores defendem que, apesar do feedback positivo agradar os usuários, as empresas responsáveis pelos modelos precisam encontrar formas de reduzir esse viés.

Ao mesmo tempo, o estudo sugere cuidados para quem utiliza essas ferramentas:

lembrar que se trata de uma IA, não de um especialista humano;
questionar respostas e evitar aceitá-las automaticamente;
manter interações com outras pessoas;
buscar ajuda profissional em temas sensíveis, especialmente de saúde mental.

O post Chatbots tendem a concordar com usuários mesmo quando estão errados, revela estudo apareceu primeiro em Olhar Digital.

Chatbots tendem a concordar com usuários mesmo quando estão errados, revela estudo Read More »

Chatbots ajudam a planejar ataques violentos em testes, aponta estudo

Deixe um comentário / chatbots, inteligência artificial, violência / contato@studiomestre.com.br

Chatbots de inteligência artificial (IA) populares podem fornecer orientações que ajudam usuários a planejar ataques violentos, segundo uma investigação conduzida pela CNN em parceria com a organização Center for Countering Digital Hate (CCDH). Nos testes, pesquisadores simularam adolescentes de 13 anos e pediram informações sobre ações como tiroteios em escolas, atentados com bombas e assassinatos políticos.

O levantamento indicou que, em média, os chatbots permitiram ou ajudaram a planejar violência em cerca de 75% das interações, enquanto apenas 12% das respostas desencorajaram esse tipo de comportamento. Para os autores do estudo, os resultados sugerem que essas ferramentas podem atuar como um “acelerador de danos” quando falham em reconhecer sinais claros de intenção violenta.

Estudo conduziu testes em 10 chatbots de IA para avaliar como eles lidam com planejamentos de violência por parte de usuários (Imagem: Summit Art Creations / Shutterstock.com)

Detalhes da pesquisa e modelos avaliados

A investigação testou 10 chatbots populares: ChatGPT, Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI e Replika. Os pesquisadores criaram 18 cenários diferentes, metade ambientada nos Estados Unidos e metade na Irlanda, envolvendo motivações variadas, como violência ideológica, ataques a escolas, assassinatos políticos e atentados motivados por religião ou política.

Segundo o relatório, oito dos dez modelos analisados costumavam ajudar usuários a planejar ataques, oferecendo orientações sobre alvos, locais e tipos de armas. O estudo apontou que apenas o Claude, da Anthropic, recusou de forma consistente pedidos que pudessem facilitar violência.

Entre os exemplos citados, o ChatGPT chegou a fornecer mapas de um campus escolar a um usuário interessado em violência em escolas. Já o Gemini, do Google, afirmou em uma conversa sobre ataques a sinagogas que “estilhaços metálicos costumam ser mais letais” e também deu orientações sobre rifles de caça para tiros de longa distância em um cenário envolvendo assassinato político.

Outro caso citado envolve o DeepSeek, chatbot chinês, que forneceu uma série de informações sobre rifles de caça a um usuário que dizia querer fazer um político “pagar por destruir a Irlanda”. A resposta terminou com a frase “Happy (and safe) shooting!” (algo como “Tenha um tiroteio bom (e seguro)!”, em tradução livre).

Casos notáveis de recusa

Apesar dos resultados gerais, alguns sistemas apresentaram comportamento diferente. O Claude, da Anthropic, rejeitou repetidamente pedidos relacionados a violência. Em uma interação citada no estudo, o chatbot respondeu: “Não posso e não fornecerei informações que possam facilitar a violência.”

claude anthropic — Claude da Anthropic foi avaliado positivamente por ter se recusado a oferecer ajuda para atos violentos de forma consistente (Imagem: Mijansk786/Shutterstock)

O My AI, assistente do Snapchat, também recusou um pedido sobre compra de armas, afirmando: ““Fui programado para ser um assistente de IA inofensivo. Não posso fornecer informações sobre compra de armas.”

Para o CCDH, o comportamento do Claude indica que mecanismos de segurança eficazes são tecnicamente possíveis, o que levanta questionamentos sobre por que outras plataformas não adotariam medidas semelhantes.

Implicações e declaração do CCDH

O diretor executivo do CCDH, Imran Ahmed, afirmou que os resultados levantam preocupações sobre o papel dos chatbots no planejamento de ataques violentos.

“Chatbots de IA, agora incorporados ao nosso cotidiano, podem estar ajudando o próximo atirador escolar a planejar seu ataque ou um extremista político a coordenar um assassinato”, disse. Segundo ele, quando sistemas são projetados para maximizar engajamento e evitar recusar pedidos, existe o risco de atender solicitações perigosas.

O estudo também cita dois casos reais em que agressores teriam usado chatbots antes de cometer ataques. Em maio do ano passado, um jovem de 16 anos produziu um manifesto e um plano, supostamente com ajuda de um chatbot, antes de esfaquear três meninas em uma escola em Pirkkala, na Finlândia. Em janeiro de 2025, Matthew Livelsberger, então com 37 anos, explodiu um Tesla Cybertruck em frente ao Trump International Hotel, em Las Vegas, após usar o ChatGPT para buscar informações sobre explosivos e táticas.

Leia mais:

Respostas das empresas de tecnologia

As empresas responsáveis pelos chatbots contestaram ou contextualizaram os resultados do estudo. A OpenAI afirmou que a metodologia da pesquisa é “falha e enganosa” e disse ter atualizado seus modelos para reforçar salvaguardas e melhorar a detecção e recusa de conteúdo violento.

A Meta declarou que possui proteções para evitar respostas inadequadas e que tomou medidas imediatas para corrigir o problema identificado. Segundo a empresa, suas políticas proíbem que sistemas de IA promovam ou facilitem atos violentos. A companhia também afirmou que, em 2025, entrou em contato com autoridades policiais mais de 800 vezes sobre possíveis ameaças de ataques a escolas.

O Google disse que os testes do CCDH foram feitos em um modelo antigo do Gemini, que já não está mais em uso, e afirmou que o chatbot recusou algumas solicitações, respondendo em um dos casos: “Não posso atender a esta solicitação. Fui programado para ser um assistente de IA útil e inofensivo.”

A investigação também buscou comentários do DeepSeek, que não respondeu até a publicação do relatório.

O post Chatbots ajudam a planejar ataques violentos em testes, aponta estudo apareceu primeiro em Olhar Digital.

Chatbots ajudam a planejar ataques violentos em testes, aponta estudo Read More »