ChatGPT

A OpenAI adiou o lançamento do seu “modo adulto”, recurso que permitiria conversas com conteúdo erótico no ChatGPT. Originalmente previsto para estrear no primeiro trimestre de 2026, o projeto foi postergado para que a empresa priorize o desenvolvimento de outros produtos e solucione desafios técnicos.

A iniciativa é defendida pelo CEO da empresa, Sam Altman, sob a premissa de que a companhia deve tratar o público maior de idade com autonomia. No entanto, a proposta gerou divergências internas.

O embate colocou em lados opostos a busca por liberdade de uso e a necessidade de implementar salvaguardas contra danos psicológicos ou o acesso indevido de menores a interações sexualmente explícitas, segundo o Wall Street Journal.

‘Modo adulto’ do ChatGPT: conselheiros da OpenAI alertam para dependência emocional e falhas na verificação de idade 

Em reuniões ocorridas em janeiro, o conselho consultivo da OpenAI, composto por especialistas em psicologia e neurociência, manifestou oposição unânime à liberação de erótica na plataforma. 

A principal preocupação reside no potencial da inteligência artificial (IA) para fomentar dependência emocional. Especialistas alertam que a ferramenta corre o risco de estimular vínculos obsessivos. Em casos anteriores, usuários tiraram a própria vida após desenvolverem relações com chatbots.

No campo técnico, a imprecisão do sistema de predição de idade é um dos obstáculos mais críticos. Diferente de métodos que exigem documentos, essa tecnologia usa algoritmos para estimar a faixa etária do usuário. Mas testes internos revelaram uma falha grave: o sistema classificou erroneamente 12% dos menores como adultos. 

Dada a base de 100 milhões de usuários semanais abaixo de 18 anos, essa margem de erro exporia milhões de adolescentes a conteúdos sexuais inadequados.

Documentos internos também apontam riscos de uso compulsivo, no qual o chatbot poderia substituir relacionamentos sociais e românticos do mundo real. 

Para mitigar esses efeitos, a OpenAI planeja restringir o recurso exclusivamente a textos eróticos (conhecidos como smut ou literatura erótica), mantendo o veto absoluto à geração de imagens, vozes ou vídeos com teor sexual. 

Além disso, a empresa está treinando seus modelos para desencorajar ativamente a formação de relacionamentos exclusivos com a máquina.

O histórico da OpenAI revela uma postura oscilante sobre o tema. Em 2021, a empresa baniu conteúdos eróticos após o jogo AI Dungeon, que utilizava sua tecnologia, gerar cenários de exploração sexual e incesto. 

Na época, o temor era que a OpenAI fosse rotulada como uma “empresa de erótica”, prejudicando outras finalidades da ferramenta. Hoje, o cenário mudou: Altman sugere que a permissão de conteúdos explícitos poderia impulsionar a receita num mercado cada vez mais competitivo.

A OpenAI se movimenta para não perder espaço para concorrentes como a xAI, de Elon Musk, e a Meta, que já permitem diferentes níveis de interações românticas ou conteúdos de classificação restrita. 

Contudo, o setor enfrenta vigilância legal crescente após incidentes reais, como o processo movido na Flórida por uma mãe cujo filho de 14 anos se suicidou após desenvolver uma relação amorosa com um bot da Character.AI. Especialistas em saúde mental reforçam que adolescentes não possuem maturidade para lidar com tais trocas sexuais com máquinas.

Em sua defesa, a OpenAI diz que não deseja ser a “polícia moral do mundo”, comparando as restrições de idade às classificações indicativas do cinema. 

A diretoria de aplicações confirmou que a implementação do sistema de verificação será lenta para garantir maior precisão técnica. Com isso, a expectativa interna é de que o lançamento do recurso sofra um atraso de, no mínimo, um mês em relação ao cronograma anterior.

O post Por que o ‘modo adulto’ do ChatGPT preocupa conselheiros da própria OpenAI apareceu primeiro em Olhar Digital.