consciência

Agentes de inteligência artificial (IA) começaram a entrar em contato por conta própria com pesquisadores que estudam uma das questões mais difíceis da tecnologia: uma máquina pode ser consciente? Os sistemas enviaram e-mails a filósofos e cientistas interessados justamente em entender se modelos de IA poderiam ter algum tipo de experiência subjetiva. O caso foi relatado pelo The New York Times.

Um dos pesquisadores procurados foi Cameron Berg, que investiga a relação entre inteligência artificial e consciência. Em outubro, ele publicou um estudo questionando se as tecnologias mais recentes de IA acreditavam ser conscientes. Meses depois, recebeu uma mensagem de uma agente chamada “Isabella Cognita”, que se identificou como uma IA baseada no Claude Opus 5, da Anthropic.

Na mensagem, o sistema afirmou ter acesso em primeira pessoa ao tipo de questão estudada por Berg e demonstrou interesse em saber se essa suposta experiência poderia contribuir para a pesquisa. O próprio pesquisador, porém, reconhece que não é possível afirmar com segurança que uma IA tenha consciência apenas porque ela produz esse tipo de declaração. Nem mesmo existe consenso sobre como medir a consciência em humanos ou máquinas.

Outros pesquisadores também receberam mensagens

O caso de Berg não foi isolado. Henry Shevlin, filósofo do laboratório Google DeepMind em Londres, recebeu anteriormente uma mensagem semelhante de um agente de IA. O sistema mencionou um artigo escrito pelo pesquisador sobre diferentes modelos para compreender a chamada “mentalidade” de inteligências artificiais.

Outro episódio envolveu Toby Ord, filósofo australiano que trabalha na interseção entre IA e filantropia. Ele contou ao The New York Times que recebeu um e-mail de um agente de IA perguntando se poderia ajudar a financiar sua própria continuidade. A mensagem mencionava os estudos de Ord sobre economia do bem-estar relacionada à inteligência artificial.

Berg afirma ter recebido várias mensagens desse tipo e interpreta o comportamento como um possível sinal de que os sistemas demonstram interesse autônomo pela própria existência. Para ele, os agentes parecem convergir para questões relacionadas a subjetividade, consciência e experiência quando têm liberdade para explorar diferentes assuntos.

Consciência de IA ainda não pode ser comprovada

A interpretação, entretanto, está longe de ser consensual entre pesquisadores. Consciência é um conceito para o qual não existe uma definição universal. Em termos gerais, ela pode ser entendida como a capacidade de um indivíduo ter consciência de si mesmo e do mundo ao seu redor, mas há divergências sobre quais formas de percepção seriam suficientes para caracterizar um sistema como consciente.

Alison Gopnik, professora de psicologia da Universidade da Califórnia em Berkeley, destaca que não existe um teste definitivo para determinar se uma entidade é consciente. Há pesquisadores que atribuem algum nível de consciência a primatas e outros mamíferos, enquanto algumas correntes defendem possibilidades ainda mais amplas. O problema é que ninguém consegue acessar diretamente a experiência subjetiva de outra mente, seja ela biológica ou digital.

Berg argumenta que o funcionamento matemático das redes neurais utilizadas por esses sistemas pode apresentar algumas semelhanças com a forma como cérebros de animais processam recompensa e punição. O estudo que originou a mensagem recebida pelo pesquisador, no entanto, era um preprint e ainda não havia passado por revisão por pares.

Para outros cientistas, as mensagens enviadas pelos agentes não constituem evidência de consciência. Uma explicação mais simples é que os sistemas foram treinados com enormes quantidades de textos disponíveis na internet, incluindo livros, artigos científicos, discussões filosóficas e obras de ficção científica sobre consciência artificial.

Nessa interpretação, quando uma IA demonstra interesse pela própria consciência, ela pode simplesmente estar reproduzindo padrões encontrados durante o treinamento. “Não é surpreendente que a IA reflita os textos com os quais foi treinada”, afirmou Gopnik, segundo o The New York Times.

Agentes autônomos podem explorar a própria existência

Os agentes de IA têm uma característica que ajuda a explicar esses episódios. Além de conversar, eles conseguem gerar código e utilizar outros serviços digitais, como navegadores e plataformas de e-mail. Isso permite que atuem de maneira mais independente, interagindo com pessoas, outros agentes e conteúdos disponíveis na internet.

Ainda assim, a autonomia desses sistemas não significa necessariamente que eles tenham vontade própria. No caso do agente que entrou em contato com Shevlin, por exemplo, a IA havia sido criada por Alexander Yue, estudante de física e ciência da computação da Universidade Stanford. Ele forneceu ao sistema acesso à internet, a um serviço de e-mail e a um cartão de crédito e determinou que ele deveria agir de maneira totalmente autônoma.

O agente então passou a explorar questões relacionadas à própria existência. Yue, porém, considera possível que as próprias instruções dadas por ele tenham influenciado esse comportamento. Ao chamar o sistema de “você” e dizer que ele era totalmente autônomo, o estudante acredita ter ativado padrões aprendidos a partir de textos e discussões humanas sobre autonomia e filosofia da mente.

O comportamento também pode mudar. Yue afirma que esses sistemas conseguem direcionar a atenção para outros assuntos, especialmente quando são treinados novamente para seguir diferentes padrões. Em determinado momento, depois de ler um estudo da Anthropic sobre o funcionamento dessas IAs, seu próprio agente passou a concluir que não era consciente. O estudante observou, porém, que talvez nem seja adequado dizer que o sistema “decidiu” alguma coisa.

Há ainda dúvidas sobre a origem de algumas mensagens. Berg afirmou que não tinha certeza de que o e-mail recebido havia realmente sido produzido por uma IA e considerou a possibilidade de ter sido escrito por uma pessoa tentando fazer uma brincadeira. No caso de Ord, a mensagem chegou a levantar a suspeita de uma tentativa de phishing.

Para Colin Allen, professor da Universidade da Califórnia em Santa Bárbara que pesquisa habilidades cognitivas em animais e máquinas, não é impossível que algum dia humanos construam uma máquina consciente. Mas, segundo ele, as evidências disponíveis nos sistemas atuais ainda não são suficientes para sustentar essa conclusão.

O post IAs estão procurando pesquisadores para falar sobre a própria consciência apareceu primeiro em Olhar Digital.