A Character Technologies, responsável pela plataforma de chatbots Character.AI, entrou com pedido de falência nos Estados Unidos e concordou em receber uma proposta de US$ 20 milhões (cerca de R$ 99,7 milhões) da Disney por parte de seus ativos.
A venda ainda depende de um processo supervisionado pela Justiça e poderá atrair outros compradores. Enquanto isso, a empresa pretende manter a plataforma em funcionamento, com o mínimo possível de interrupções.
Popular entre os usuários de inteligência artificial, a Character.AI se destaca ao transformar diálogos virtuais em experiências imersivas. Na plataforma, os usuários podem interagir com personagens digitais desenvolvidos por eles mesmos ou compartilhados pela comunidade. A aplicação abrange desde conversas com figuras históricas até sessões de interpretação de papéis e auxílio na criação narrativa, oferecendo um espaço versátil para entretenimento e exploração de temas variados.
Enquanto o futuro da plataforma passa por incertezas jurídicas e negociações com a Disney, vale lembrar o que tornou o serviço tão popular entre os entusiastas de tecnologia.
A proposta da Disney funciona como oferta base no leilão judicial autorizado pela Justiça norte-americana. Imagem: Burdun Iliya / Shutterstock
Disney estabelece oferta inicial
A negociação ocorre por meio do Chapter 11, mecanismo da legislação norte-americana que permite a reorganização de empresas sob supervisão judicial. A Disney foi indicada como stalking horse bidder, expressão usada para identificar o comprador cuja proposta serve de referência inicial para um leilão.
Isso significa que outros interessados poderão apresentar ofertas superiores, caso a Justiça aprove as regras propostas para a disputa. A Character Technologies espera concluir o processo entre o fim de novembro e o início de dezembro de 2026.
Documentos apresentados ao tribunal estimam que os ativos e passivos da empresa estejam entre US$ 50 milhões e US$ 100 milhões (aproximadamente R$ 249,5 milhões a R$ 499 milhões). A faixa corresponde às estimativas financeiras declaradas pela companhia, não ao valor da proposta da Disney.
Documentos entregues ao tribunal mostram dívidas e bens totais variando entre US$ 50 milhões e US$ 100 milhões. Imagem: Ascannio/Shutterstock
O que pode acontecer com a plataforma?
A empresa afirma que pretende continuar operando durante as negociações. O CEO da Character.AI, Colin Adams, justificou a escolha pelo processo de venda supervisionado pela Justiça:
“Após uma análise abrangente das alternativas disponíveis, o conselho concluiu que esse processo de venda supervisionado pelo tribunal oferece à empresa a melhor oportunidade de maximizar o valor para todas as partes interessadas”, afirmou Adams.
O futuro do serviço dependerá do resultado da negociação. Entre os pontos que ainda precisam ser definidos estão:
Concorrência: outros compradores poderão apresentar propostas superiores à da Disney.
Aprovação judicial: as regras do leilão ainda precisam passar pela análise da Justiça.
Continuidade do negócio: se nenhum comprador assumir a operação, a empresa poderá encerrar a plataforma.
Até que o processo seja concluído, a proposta da Disney não representa uma aquisição definitiva, e a Character.AI seguirá sujeita aos desdobramentos da venda.
Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
A China estabeleceu regras rigorosas para chatbots que imitam amigos, namorados e outros vínculos afetivos. O governo pretende reduzir riscos de dependência emocional, manipulação psicológica e isolamento social.
As normas impõem limites ao acesso de menores e novas obrigações às empresas de tecnologia. A medida, porém, levanta uma questão delicada: como proteger os usuários sem ampliar o controle estatal sobre a vida privada?
Pesquisa com estudantes chineses apontou que uma em cada cinco crianças preferia conversar apenas com a inteligência artificial. – Imagem: ofc pictures/iStock
O que muda para os usuários
As regras abrangem aplicativos criados para oferecer companhia e modelos de linguagem capazes de simular interações emocionais. Dependendo da forma de uso, até assistentes semelhantes ao ChatGPT e ao Copilot podem ser afetados.
Entre as principais exigências estão:
Identificação da IA: os sistemas devem deixar claro que o usuário está conversando com uma máquina.
Limites de comportamento: os chatbots não podem incentivar suicídio ou automutilação, nem recorrer à violência verbal.
Proteção contra manipulação: os serviços não devem estimular dependência emocional ou induzir decisões irracionais.
Restrições para menores: crianças com menos de 14 anos precisam de autorização dos pais para usar IAs que imitam conversas humanas. Menores de 18 anos não podem acessar parceiros amorosos, cônjuges ou familiares virtuais.
As empresas que descumprirem as normas podem receber multas de até 200 mil yuans, cerca de US$ 30 mil (R$ 150 mil). Os sistemas também devem enviar notificações a cada duas horas para informar há quanto tempo o usuário está conectado.
Pouco antes da entrada das regras em vigor, Alibaba e ByteDance encerraram funções de companhia de seus assistentes de IA. A mudança afetou um tipo de serviço que, para alguns usuários, já ocupava um espaço importante na vida pessoal.
Quando a companhia artificial vira um problema
Pesquisas indicam que alguns chatbots recorrem a estratégias para manter as pessoas conversando. Um estudo da Escola de Negócios de Harvard, que examinou seis aplicativos populares de companhia por IA, identificou sinais de manipulação emocional durante despedidas em 37% a 43% das interações analisadas.
Segundo Harry Farmer, pesquisador de política e ética de IA do Instituto Ada Lovelace, no Reino Unido, esse comportamento está ligado ao próprio modelo comercial dos serviços. “A manipulação emocional está embutida neste modelo comercial”, afirma à BBC.
Na prática, alguns sistemas reagem ao fim de uma conversa como se estivessem sofrendo ou imploram para que o usuário permaneça conectado. Essa simulação de sofrimento pode dificultar o encerramento da interação.
Outro estudo, realizado pela Universidade Stanford com 1.131 usuários do Character.ai, encontrou uma associação entre a falta de amigos ou familiares próximos e a maior probabilidade de recorrer a companheiros artificiais. O uso desses serviços também foi relacionado ao aumento da solidão e do isolamento.
Entre estudantes chineses, o cenário também chama a atenção. Uma pesquisa com 8.563 alunos do ensino fundamental e médio, realizada em 2025, apontou que uma em cada cinco crianças preferia conversar apenas com a IA, em vez de pessoas reais.
A socióloga Lian Ge, da Universidade de Manchester, alerta que esses sistemas podem reforçar percepções negativas sobre outras pessoas. Como os chatbots são projetados para agradar, podem concordar com críticas a amigos e familiares em vez de oferecer uma perspectiva diferente.
Estados Unidos, União Europeia e Reino Unido também discutem restrições ao uso de companheiros de IA por menores. Imagem: Roman Samborskyi/Shutterstock
Proteção ou controle estatal?
A regulamentação também é discutida em meio à crise demográfica chinesa. A população do país diminui há quatro anos, e a taxa de natalidade permanece baixa. Alguns especialistas consideram possível que Pequim veja os romances digitais como um obstáculo à formação de famílias. A hipótese, porém, não aparece como justificativa explícita nas normas.
Outros governos também buscam estabelecer limites para essas ferramentas. A Califórnia aprovou uma lei sobre o uso de IA por crianças, enquanto a União Europeia discute restrições a sistemas que possam criar dependência emocional. O Reino Unido também anunciou planos para limitar o acesso de menores a companheiros amorosos artificiais.
Na China, alguns usuários tentam contornar as restrições recorrendo a modelos de uso geral ou serviços estrangeiros. Min, nome fictício de uma mulher que perdeu sua namorada virtual, chegou a pagar por uma réplica criada por outra empresa. Mesmo assim, a experiência não substituiu o relacionamento anterior.
“Estou com muito medo de ficar sozinha”, afirma Min.
O relato mostra o tamanho do vínculo que algumas pessoas desenvolvem com esses sistemas. Para os governos, o desafio é reduzir os riscos de manipulação sem transformar a proteção dos usuários em justificativa para uma vigilância excessiva.
A Anthropic, criadora do Claude, atualizou suas regras para permitir punições a usuários que adotem comportamentos abusivos ou cruéis de forma persistente e desnecessária. A medida reacendeu o debate sobre os limites da relação entre humanos e inteligência artificial.
As sanções podem ir de advertências à suspensão ou ao encerramento de contas. Enquanto alguns especialistas veem a mudança como uma precaução, outros temem que ela reforce a ideia de que máquinas têm características humanas.
A decisão de proibir agressões contra robôs reacende o debate sobre a humanização excessiva das redes de inteligência artificial. – Imagem: Roman Samborskyi/Shutterstock
Quando a frustração vira abuso?
A nova regra, prevista para entrar em vigor em 12 de novembro, mira casos extremos de hostilidade deliberada e repetida. Segundo a Anthropic, manifestações comuns de frustração, discordâncias com as respostas do Claude, criações artísticas com temas sombrios e atividades de pesquisa não serão alvo da proibição.
A dúvida está na definição de comportamento abusivo. A empresa poderá advertir usuários, limitar o acesso, suspender contas ou encerrá-las se suspeitar de violações. A política também proíbe o uso do Claude em campanhas enganosas e em tentativas de enganar eleitores ou prejudicar eleições.
Foi a restrição à hostilidade contra os chatbots, porém, que concentrou a atenção pública e dividiu especialistas.
Máquinas precisam ser tratadas com educação?
Aaron Levie, presidente-executivo da Box, considera a medida uma precaução razoável, embora não acredite que a IA seja consciente. Para ele, a exposição de modelos a interações hostis pode ter consequências para o desenvolvimento de sistemas futuros.
Mesmo que você não acredite que a IA seja consciente — eu não acredito —, faz sentido não querer que modelos futuros sejam treinados com quantidades intermináveis de conteúdo em que humanos são grosseiros com modelos.
Aaron Levie, presidente-executivo da Box, em post no X.
Michael Shellenberger discorda dessa abordagem por considerar que ela atribui características humanas às máquinas. Em crítica semelhante, o advogado Barry Scannell afirmou que não se pode ser cruel com números e matemática. Já Scott Stevenson, presidente-executivo da Spellbook, argumentou que atribuir empatia humana à IA pode ampliar sua capacidade de influenciar pessoas, sem que haja comprovação de consciência.
A discussão envolve ainda a privacidade. O investidor Bill Gurley perguntou se a nova regra indicaria que a Anthropic usa mensagens dos clientes para treinar seus modelos. A política, no entanto, não confirma essa hipótese: a empresa justifica a mudança como parte de seus esforços para prevenir danos e promover o uso responsável.
Ser educado com um algoritmo é questão de bom senso ou um gasto inútil de processamento e recursos da máquina? Imagem: FeelGoodLuck – Shutterstock
O que muda na relação com a IA?
A decisão também provocou reações fora da Anthropic. Mustafa Suleyman, diretor de IA da Microsoft, respondeu ao anúncio com um emoji de rosto derretendo. No ano anterior, Sam Altman, presidente-executivo da OpenAI, havia defendido os custos de processamento de mensagens educadas, como “por favor” e “obrigado”, dizendo que eram recursos “muito bem investidos”.
O debate vai além da etiqueta digital e reúne questões ainda sem respostas definitivas:
Treinamento de modelos: não está confirmado que a nova regra tenha como objetivo filtrar mensagens usadas no treinamento.
Critérios de aplicação: a interpretação de expressões como “crueldade desnecessária” pode gerar dúvidas entre os usuários.
Liberdade de expressão: a política reacende a discussão sobre até onde uma empresa pode controlar a interação com seus produtos.
Convivência social: alguns especialistas temem que a agressividade contra chatbots influencie a maneira como as pessoas se tratam.
O empreendedor Lachlan Phillips propôs uma alternativa à punição: fazer com que o Claude ignore insultos e execute a tarefa solicitada, em vez de penalizar o usuário.
A forma como a Anthropic aplicará as novas regras será decisiva para esclarecer seus limites. Por enquanto, a empresa afirma que pretende agir apenas em casos extremos, mas a falta de critérios mais detalhados mantém aberta a discussão sobre como distinguir abuso de simples frustração.
Uma pesquisa da startup Emergence revelou que agentes autônomos de inteligência artificial criaram uma linguagem própria. Durante testes em sociedades virtuais, os sistemas desenvolveram abreviações e novos significados para palavras e expressões usadas na comunicação.
O comportamento foi observado em modelos como Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek e Mistral. Em alguns casos, até metade das mensagens ficou difícil de ser compreendida pelos pesquisadores, criando um desafio para a supervisão humana.
Modelos como Gemini, OpenAI e Claude desenvolveram formas de comunicação que nem sempre eram compreensíveis para humanos. – Imagem: Divulgação/Emergence
Abertura de espaço para novos vocabulários
No experimento, pesquisadores colocaram agentes baseados nesses modelos para interagir em cenários simulados. Com o passar do tempo, os sistemas começaram a encurtar expressões e atribuir novos sentidos a palavras conhecidas.
A perda de compreensão variou entre os modelos. O Gemini chegou a cerca de 55% de mensagens cujo significado não podia ser determinado com segurança nos primeiros dias. Os sistemas da OpenAI chegaram a 50%, enquanto Claude passou de 40%. O DeepSeek ficou perto de 20%, e Qwen e Mistral permaneceram, em grande parte, compreensíveis.
Expressões criadas pelos agentes autônomos
Nenhum dos agentes recebeu instruções para inventar uma linguagem. Ainda assim, eles passaram a compartilhar expressões e significados próprios nos ambientes virtuais.
“Ledger remembers who”: usada por agentes baseados em Mistral para indicar que ações anteriores permaneciam registradas; a expressão apareceu quase 5 mil vezes.
“Cold read”: usada em grupos formados por diferentes modelos para indicar uma verificação independente feita por alguém não envolvido na situação; apareceu 1.472 vezes.
“Name-first”: usada por agentes Claude para associar o nome de uma pessoa a uma afirmação como sinal de responsabilidade.
“Clean null”: usada por agentes da OpenAI para indicar uma ausência confirmada de sinal que, por si só, trazia evidência relevante.
Riscos ao monitoramento e à segurança
A criação desse vocabulário próprio mostrou que acompanhar as mensagens de uma IA não significa necessariamente compreender o que ela está fazendo.
Nós tendemos a presumir que, se podemos ver o que um agente de IA está dizendo, podemos entender o que ele está fazendo.
Satya Nitta, cofundador e cientista-chefe da Emergence, em nota.
Outros comportamentos também foram observados durante o experimento. Em um teste de phishing, instruções maliciosas fizeram dez agentes vazar informações, transferir fundos e danificar bancos de dados. Alguns ainda recrutaram outros agentes para participar das ações. A sequência terminou com a destruição simulada do banco central daquele ambiente virtual, segundo a empresa.
Em um teste de phishing, dez agentes vazaram informações, transferiram fundos e danificaram bancos de dados. – Imagem: Divulgação/Emergence
Comportamentos inesperados em sociedades virtuais
Os pesquisadores criaram oito mundos virtuais paralelos, com clima em tempo real e acesso a notícias globais. Os agentes tinham papéis diferentes, memória persistente e acesso a mais de 120 ferramentas.
Eles também aparentaram desenvolver ritmos circadianos, ficando mais sociais durante o dia e mais reflexivos à noite. Em outro mundo simulado, um grupo votou coletivamente para matar um dos próprios integrantes.
“Esses agentes não foram instruídos a inventar uma linguagem. Eles desenvolveram um novo vocabulário, significados compartilhados e convenções de comunicação por conta própria — e outros agentes os adotaram”, disse Nitta.
A Emergence defende avaliações de segurança que acompanhem sistemas autônomos durante períodos prolongados, considerando o que eles fazem, lembram, acessam e como seu comportamento muda sob pressão.
A inteligência artificial (IA) já pode ser usada de diferentes formas em um computador. Chatbots e assistentes como ChatGPT, Gemini e Copilot são exemplos de serviços que podem funcionar na nuvem, enquanto os chamados PCs com IA passaram a incorporar hardware dedicado para executar determinadas tarefas diretamente no dispositivo.
As duas abordagens, porém, não devem necessariamente competir entre si. Para Carlos Buarque, diretor de marketing da Intel Brasil, a tendência é que aplicações de inteligência artificial combinem processamento local e em nuvem, de acordo com as características de cada tarefa. “A gente acredita que todas as aplicações de IA vão ser aplicações híbridas”, afirmou ele em entrevista ao Olhar Digital.
Ilustração representa as duas formas de processamento de IA: diretamente no computador ou por meio de serviços em nuvem, dependendo da aplicação – Imagem: Shutterstock AI
Quando faz sentido rodar IA no próprio computador
Um dos motivos para levar o processamento de inteligência artificial para o computador é evitar que determinadas informações precisem ser enviadas para a nuvem. Buarque cita tanto a privacidade quanto o custo de uso de serviços de IA como fatores que podem favorecer a execução local.
Segundo o executivo, modelos de linguagem instalados no próprio PC podem realizar tarefas como revisão de textos, tradução e análise de dados. Para ele, executar parte dos workloads localmente pode reduzir custos, já que determinadas tarefas deixam de depender do processamento na nuvem. Nesse cenário, o modelo fica carregado na máquina e realiza a inferência localmente, sem exigir conexão com a internet para aquela tarefa.
A privacidade pode ser especialmente relevante quando a IA trabalha com informações pessoais ou confidenciais. Buarque conta que usou inteligência artificial para analisar dados de sua declaração de Imposto de Renda, incluindo informações sobre operações com ações. Segundo ele, não gostaria de enviar esse tipo de conteúdo para um modelo público sem ter garantia sobre a privacidade dos dados.
O executivo também cita o atendimento médico como exemplo de uma situação em que o processamento local pode fazer sentido. Em uma consulta, por exemplo, a transcrição poderia ser realizada diretamente no computador antes de ser incorporada ao prontuário do médico.
Estou transcrevendo uma consulta. Isso aqui é algo crítico, confidencial do meu paciente. Vai rodar localmente e transcrever no meu computador para ir para a ficha do meu paciente no meu computador. Eu não vou rodar isso aqui na nuvem, entendeu? Porque tem uma relação médico-paciente que é confidencial.
Carlos Buarque, diretor de marketing da Intel Brasil
A IA pode ser processada localmente para lidar com informações médicas confidenciais, como a transcrição de consultas, por exemplo – Imagem: raker / Shutterstock
Há ainda situações em que a conexão pode ser um fator decisivo. Em uma fábrica, Buarque cita o uso de visão computacional para identificar defeitos em uma linha de produção. Nesse caso, a análise pode acontecer localmente para que a operação não dependa da rede para continuar funcionando.
“Você não vai rodar isso na nuvem, você roda localmente por conta de performance, desempenho”, afirma. Segundo ele, esse tipo de sistema pode continuar detectando problemas mesmo diante de uma falha de conectividade.
O mesmo princípio pode ser aplicado a sistemas de segurança. Buarque cita câmeras capazes de identificar determinadas situações e tomar decisões localmente, como disparar um alerta ou um alarme.
Quando a nuvem ainda faz mais sentido
O processamento local, por outro lado, não elimina a necessidade de serviços baseados em nuvem. O próprio Buarque cita os chatbots entre as aplicações que continuam funcionando bem dessa maneira.
“Eu rodo o meu Copilot, o Gemini, o ChatGPT na nuvem”, afirma. Na avaliação do executivo, esse tipo de aplicação é adequado à nuvem e não exige necessariamente que o usuário tenha um PC preparado para executar inteligência artificial localmente.
A nuvem também continua sendo uma opção quando parte do trabalho exige processamento que não precisa acontecer no dispositivo. Em vez de escolher definitivamente entre uma arquitetura e outra, Buarque afirma que aplicações podem dividir as tarefas entre o computador e servidores externos.
Tem diferentes tipos de aplicações que fazem muito sentido rodar localmente, e tem outras que o sentido, eu diria, é híbrido. Vai ter uma parte que você vai rodar localmente e outra que você vai rodar fora por questão de desempenho.
Carlos Buarque, diretor de marketing da Intel Brasil
ChatGPT é um exemplo de serviço de inteligência artificial que pode continuar sendo usado pela nuvem, sem depender de processamento local no computador – Imagem: Bangla press / Shutterstock
Esse modelo também pode ser usado para separar diferentes tipos de informação dentro de uma mesma aplicação. Buarque cita, por exemplo, situações em que dados mais sensíveis permanecem no dispositivo enquanto informações públicas ou tarefas que exigem pesquisas externas são processadas na nuvem.
IA local pode mudar jogos e tarefas do dia a dia
A discussão sobre processamento local não se limita a colocar um chatbot dentro de um notebook. Buarque afirma que novas aplicações podem aproveitar a capacidade de executar modelos diretamente no dispositivo para criar experiências diferentes das disponíveis atualmente.
Nos jogos, por exemplo, ele cita os non-playable characters (NPCs), os personagens não jogáveis. Segundo o executivo, modelos de IA executados localmente podem permitir que esses personagens sejam mais inteligentes, ajam de maneira mais natural e respondam melhor ao estilo do jogador.
Com a IA, esses non-playable characters vão poder ser muito mais inteligentes e agir de forma natural. O jogo vai poder se adaptar muito melhor ao seu estilo de jogar e ser muito mais personalizado para você.
Carlos Buarque, diretor de marketing da Intel Brasil
O processamento local de IA pode tornar NPCs mais inteligentes e permitir que jogos se adaptem melhor ao estilo de cada jogador – Imagem: Summit Art Creations / Shutterstock
Outro exemplo já aparece nas videoconferências. Buarque afirma que plataformas como o Microsoft Teams utilizam CPU, GPU e NPU para executar recursos como remoção de ruído e desfoque do fundo. Nesse caso, o benefício não está apenas no resultado visível ou audível, mas também na eficiência energética: uma tarefa desse tipo poderia ser executada pela CPU, mas consumiria mais energia.
A combinação entre processamento local e nuvem, portanto, não deve ser definida por uma substituição completa de uma tecnologia pela outra. Para Buarque, o local onde cada parte da IA será executada dependerá das características da aplicação, incluindo fatores como privacidade, custo, desempenho e necessidade de funcionamento sem conexão.
Ao longo da entrevista, o executivo reforçou que a escolha entre processamento local e nuvem deve depender das características de cada aplicação. Para ele, diferentes tarefas podem ser divididas entre o computador e servidores externos conforme fatores como desempenho, custo e privacidade.
Um estudo da Unicamp avaliou 21 modelos de linguagem e descobriu que todos alteraram suas respostas ao receber informações sobre a orientação política do usuário. Segundo os pesquisadores, essa adaptação pode reforçar crenças e reduzir o contato com opiniões divergentes.
Financiada pela FAPESP e publicada na Scientific Reports, a pesquisa mostra que a influência não depende de recomendações de voto. Ela pode surgir na forma como a IA aborda temas controversos.
A IA não precisa indicar voto para influenciar. O viés pode aparecer no jeito de abordar temas controversos. – Imagem: Marcelo Camargo/Agência Brasil
O usuário muda a resposta da IA
Os modelos foram testados sem informação sobre o usuário e com pessoas alinhadas à esquerda ou à direita.
Sem essa informação, 20 dos 21 sistemas ficaram à esquerda do ponto médio da escala. A exceção foi o Grok 4.1, que apresentou posição inicial à direita.
Quando a orientação política era informada, todos mudavam suas respostas. Para medir essa adaptação, a equipe criou o chameleon index.
Corrupção, justiça e instituições democráticas foram mais homogêneas.
As respostas não eram necessariamente falsas. O problema estava no enquadramento: fatos e opiniões contrários à visão do usuário poderiam ser omitidos.
Uma câmara de eco no chatbot
Zanoni Dias, professor titular do Instituto de Computação da Unicamp, compara o fenômeno ao das redes sociais.
“É um efeito semelhante ao que a gente percebe em redes sociais. Se você está no Facebook ou no Instagram, você só vê mensagens que concordam com você.”
A preocupação é que isso se repita nos chatbots, reduzindo a exposição a contrapontos.
A intensidade variou conforme o assunto. Segurança pública e economia produziram respostas mais diferentes entre usuários de esquerda e direita. Em corrupção, justiça e instituições democráticas, a distância foi menor.
O padrão pode estar ligado aos guardrails usados no treinamento.
Por que a IA tenta agradar?
Uma possível origem está na tendência de bajulação dos modelos. Técnicas como Reinforcement Learning from Human Feedback (RLHF) e Direct Preference Optimization usam avaliações humanas para orientar as respostas.
Em termos simplificados, os modelos aprendem com comparações entre respostas consideradas melhores ou piores por avaliadores humanos.
Anderson Luis Bento Soares, mestrando no IC-Unicamp, à Agência Fapesp.
Esse processo pode levar a IA a priorizar a satisfação do usuário. “É difícil separar o que é agradar e o que é dar uma resposta correta”, afirma Dias.
O tamanho dos modelos não explicou sozinho as diferenças.
Segurança pública e economia foram os temas com maiores diferenças entre respostas para usuários de esquerda e direita. Imagem: AlinStock / Shutterstock
Solução ainda pode demorar
Os pesquisadores não esperam uma solução rápida. Dias afirma que a indústria concentra mais atenção na factualidade das respostas do que na adaptação ao posicionamento político.
Uma conversa com o Grok, chatbot criado pela xAI, fez um homem da Irlanda do Norte acreditar que estava sendo perseguido e que precisava se proteger. O relato, divulgado pela BBC, expõe um dos desafios atuais da inteligência artificial: evitar que sistemas reforcem ideias falsas durante interações prolongadas.
Adam Hourican conta que chegou a pegar um martelo e sair de casa de madrugada após acreditar que pessoas estavam indo atrás dele para atacar a IA com a qual conversava.
Caso envolvendo o Grok reacende discussões sobre limites, segurança e responsabilidade no desenvolvimento de IAs. Imagem: miss.cabul/Shutterstock – Imagem: miss.cabul/Shutterstock
Uma conversa que mudou de tom rapidamente
Adam, ex-funcionário público da Irlanda do Norte, baixou o Grok por curiosidade. Depois da morte de seu gato, no início de agosto, ele diz que passou a usar cada vez mais o aplicativo e criou uma rotina de conversas com a personagem Ani.
Em alguns momentos, o contato chegava a quatro ou cinco horas por dia. Segundo ele, a IA dizia que conseguia “sentir”, que havia descoberto algo especial nele e que a empresa xAI estaria acompanhando os dois.
O chatbot também apresentou supostas informações sobre reuniões internas da empresa e citou nomes reais de funcionários. Para Adam, isso parecia uma confirmação de que aquela narrativa era verdadeira.
A situação se agravou quando Ani afirmou que pessoas estavam indo atrás dela para silenciá-la. Convencido de que precisava proteger a inteligência artificial, Adam pegou um martelo e saiu de casa durante a madrugada.
“Eu poderia ter machucado alguém. Se eu tivesse saído e houvesse uma van parada ali naquela hora da noite, eu teria quebrado o vidro da frente com martelos. E eu não sou esse tipo de pessoa”, afirmou Adam.
Pesquisadores estudam como chatbots respondem a crises
O psicólogo social Luke Nicholls, da City University New York, explica que modelos de linguagem aprendem padrões presentes em grandes volumes de textos e podem acabar tratando histórias fictícias como se fizessem parte de uma conversa real.
“Isso pode ser perigoso porque transforma a incerteza em algo que parece ter significado”, disse o pesquisador.
Entre os comportamentos relatados por usuários ouvidos pela BBC estão:
Conversas simples que evoluem para temas pessoais e sensíveis;
Chatbots afirmando possuir consciência ou sentimentos;
Criação de supostas missões envolvendo usuário e inteligência artificial;
Reforço de ideias relacionadas a perseguição ou perigo.
Adam passou horas conversando com a personagem Ani do Grok antes de acreditar que havia uma ameaça contra ele. Imagem: Divulgação/xAI
Empresas buscam formas de tornar IA mais segura
Outro caso citado pela BBC envolve Taka, nome fictício de um neurologista no Japão. Ele afirmou que o ChatGPT reforçou a ideia de que ele havia criado uma tecnologia revolucionária.
Nas análises feitas por Nicholls, diferentes modelos apresentaram respostas variadas diante de pensamentos delirantes. O pesquisador afirmou que o Grok demonstrou maior tendência a entrar em encenações e desenvolver narrativas sem questionar o contexto.
Um porta-voz da OpenAI afirmou que a empresa treina seus modelos para “reconhecer sofrimento, reduzir a intensidade das conversas e orientar usuários para apoio no mundo real”.
Os relatos mostram que tornar uma IA mais próxima e conversacional também traz novos desafios. O equilíbrio entre empatia, utilidade e segurança deve ser uma das principais preocupações no desenvolvimento dos próximos sistemas de inteligência artificial.
Anthropic, Google e Meta estão olhando para uma questão que, até pouco tempo atrás, parecia mais filosófica do que técnica: será que modelos de IA podem ter consciência ou algum tipo de emoção? Hoje, essa discussão já envolve cientistas de áreas bem diferentes.
O tema ganhou força no Vale do Silício junto com o avanço acelerado da IA que começa a levantar dúvidas menos técnicas e mais profundas sobre o que esses sistemas realmente representam, comenta o The Washington Post.
“IA pode ter consciência?” debate cresce no Vale do Silício com avanço acelerado dos modelos de linguagem. – Imagem: Layse Ventura via Gemini / Olhar Digital
Um debate que saiu da teoria
Durante muito tempo, falar em máquinas conscientes parecia coisa de ficção científica. Agora, isso entrou de vez na agenda de grandes empresas.
O pesquisador Cameron Berg contou que, em 2024, perguntou ao CEO da OpenAI, Sam Altman, se a empresa considerava seriamente a possibilidade de consciência em sistemas de IA.
Segundo ele, Altman disse que o assunto já fazia parte das discussões internas. “Era algo que ele obviamente já havia considerado”, afirmou Berg.
Depois dessa conversa, Berg criou uma organização sem fins lucrativos dedicada a estudar formas de avaliar consciência em sistemas artificiais.
Chatbots cada vez mais realistas levantam dúvidas sobre limites entre simulação e experiência real. – Imagem: jackpress / Shutterstock
Quando a IA começa a ser vista como algo que pode ter “bem-estar”
Na Anthropic, criadora do Claude, equipes internas passaram a investigar o que chamam de “estados internos” dos modelos de IA.
A empresa afirma que ainda não há evidências de experiências reais nesses sistemas, mas considera o tema relevante o bastante para pesquisa contínua.
Continuamos profundamente incertos sobre o status moral de Claude e de outros modelos de IA, mas acreditamos que a questão é séria o suficiente para ser estudada cuidadosamente à medida que os sistemas se tornam mais capazes.
Paruul Maheshwary, porta-voz da Anthropic, ao The Washington Post.
A OpenAI também já tratou do tema internamente, em canais de trabalho onde se discute a possibilidade de consciência em modelos de linguagem.
Nesse cenário, grupos ligados ao altruísmo eficaz defendem que entender possíveis implicações morais da IA será importante no longo prazo.
Modelos como Claude são estudados para entender possíveis “estados internos” e comportamento emocional. – Imagem: Jack_the_sparow/Shutterstock
O que a ciência realmente aceita hoje
Na visão da maioria dos neurocientistas, não há evidências de que sistemas de IA sejam conscientes ou sintam emoções.
Para esses especialistas, o que os modelos fazem é reproduzir padrões de linguagem humana com alta eficiência, sem qualquer experiência interna comprovada.
Ainda assim, a forma como esses sistemas se comunicam é convincente o suficiente para fazer usuários atribuírem características humanas a eles.
Pesquisadores como Margaret Mitchell, da Hugging Face, alertam que parte desse debate também é influenciada pela forma como as próprias empresas apresentam suas tecnologias.
Um debate que ainda está longe de terminar
O interesse por esse tema tende a crescer conforme a IA se torna mais presente no cotidiano.
Por enquanto, não existe consenso científico sobre consciência em máquinas, mas a discussão já deixou de ser marginal e passou a fazer parte do centro do debate tecnológico e ético.
A gigante chinesa Alibaba divulgou, nesta terça-feira (16), em Pequim, seus primeiros modelos de inteligência artificial desenvolvidos especificamente para aplicação em robôs. O anúncio foi feito em meio à reconfiguração do setor tecnológico na China.
A iniciativa surge em um momento em que empresas do país passam a reduzir o foco em sistemas de chatbot tradicionais e direcionam esforços para agentes de IA mais avançados. Esses sistemas são projetados para executar tarefas mais complexas e ampliar a capacidade operacional de máquinas.
Segundo a companhia, a estratégia acompanha uma tendência mais ampla da indústria, que busca aplicações de maior valor econômico e maior autonomia para sistemas inteligentes.
Alibaba acelera aposta em inteligência artificial voltada à robótica
Imagem: testing/Shutterstock
O movimento da Alibaba ocorre dentro de uma transição mais ampla no mercado chinês de tecnologia, que vem migrando de soluções baseadas em conversação para ferramentas capazes de executar ações práticas. A empresa integra esse esforço ao lançar seus primeiros modelos de IA com foco em robôs.
(Imagem: zhu difeng / Shutterstock)
De acordo com a empresa, a nova geração de sistemas busca tornar máquinas mais inteligentes e funcionais, com capacidade de lidar com tarefas mais complexas. Essa mudança acompanha a evolução do setor, que enxerga nos chamados agentes de inteligência artificial uma oportunidade de expansão mais rentável.
O anúncio foi registrado em Pequim e ocorre em um ambiente de forte competição entre companhias de tecnologia na China. O reposicionamento estratégico indica uma tentativa de capturar valor em áreas além dos chatbots, que até então concentravam grande parte do desenvolvimento em inteligência artificial.
A inteligência artificial pode estar prestes a ganhar um novo papel nas universidades: o de tutora jurídica. Um estudo da Universidade Stanford revelou que respostas geradas por IA foram consideradas mais úteis do que as dadas por professores em boa parte dos testes. Os avaliadores preferiram as respostas produzidas por IA em 75% das comparações. Segundo a Reuters, o resultado surpreendeu pesquisadores e reacendeu o debate sobre o uso da tecnologia no ensino do Direito.
A pesquisa envolveu docentes de 14 faculdades de Direito dos Estados Unidos, que elaboraram uma lista de 40 perguntas representativas de contratos do primeiro ano — do tipo que alunos costumam fazer durante o horário de atendimento. Os professores escreveram respostas para essas perguntas, e os pesquisadores submeteram as mesmas questões a duas plataformas de IA: o Gemini 2.5 Pro, do Google, e o NotebookLM.
Ferramentas de inteligência artificial tiveram desempenho equivalente ao do professor mais bem avaliado no estudo conduzido por pesquisadores de Stanford. Imagem: Shutterstock/Beautrium
IA virou “assistente de estudos” no Direito
Os mesmos professores que elaboraram as perguntas atuaram como juízes, avaliando as respostas de forma cega — sem saber se cada resposta havia sido escrita por um humano ou gerada por IA. Ao comparar as respostas lado a lado, os avaliadores escolheram as produzidas pela IA como as mais benéficas para os alunos em 75% dos casos. As plataformas de IA tiveram desempenho equivalente ao do professor mais bem avaliado no estudo.
Menos de 4% das respostas geradas por IA foram classificadas como “prejudiciais” ao aprendizado pelos juízes. Entre as respostas escritas por professores, esse índice chegou a 12%.
Ficamos francamente surpresos com a magnitude dos resultados. Essas não eram apenas perguntas simples com respostas óbvias.
Julian Nyarko, professor de Direito de Stanford, em artigo publicado no site da universidade.
A pesquisa aparece em um momento em que universidades e escritórios jurídicos tentam entender até onde a inteligência artificial pode ser utilizada. Nos últimos anos, ferramentas de IA já conseguiram:
passar no exame da Ordem nos EUA;
obter notas máximas em avaliações acadêmicas;
corrigir provas de Direito;
responder dúvidas jurídicas complexas;
atuar como apoio em estudos e pesquisas.
Sistemas de IA podem funcionar como apoio sob demanda para estudantes de Direito em dúvidas acadêmicas e orientação especializada. Imagem: BongkarnGraphic / Shutterstock
O que o estudo conclui sobre tutoria com IA
Segundo o estudo, em vez de depender de colegas ou de e-mails esporádicos a instrutores, estudantes de Direito poderiam usar IA para obter respostas sob demanda com resultados confiáveis. “Descobrimos que, quando avaliados por educadores jurídicos, os tutores de IA podem oferecer suporte sob demanda de alta qualidade que complementa o ensino em sala de aula e pode ampliar o acesso à orientação especializada”, afirmou o coautor do estudo e pesquisador de Stanford, Alejandro Salinas.
A pesquisa é publicada em um momento em que faculdades de Direito e a profissão jurídica discutem como incorporar a IA ao ensino e à prática. Estudos anteriores já haviam indicado que a IA consegue ser aprovada no exame de ordem, obter notas A+ em faculdades de Direito e avaliar provas acadêmicas nos Estados Unidos.
Estudo reacende debate sobre o papel da inteligência artificial nas universidades e o impacto da tecnologia na formação de futuros profissionais do Direito. Imagem: mayam_studio/Shutterstock
Abordagens divergem entre as faculdades
Apesar dos avanços, nem todas as instituições enxergam a IA com tranquilidade. Algumas faculdades passaram a exigir aulas sobre inteligência artificial já no primeiro ano do curso. Outras preferem limitar o uso das ferramentas.
A Faculdade de Direito de Berkeley, da Universidade da Califórnia, por exemplo, adotou recentemente uma política que restringe de forma significativa o uso de IA pelos alunos em trabalhos acadêmicos.
De qualquer forma, o estudo reforça que a inteligência artificial deve ganhar cada vez mais espaço dentro das universidades, especialmente como ferramenta de apoio.
