ChatGPT

A OpenAI suspendeu indefinidamente o desenvolvimento do “modo adulto” do ChatGPT. A modalidade permitiria ter conversas de natureza sexual com o chatbot, mas foi alvo de críticas dentro da própria desenvolvedora.

A informação foi divulgada pelo site Financial Times. A versão erótica foi arquivada como parte de uma estratégia mais ampla da empresa para focar em seus produtos principais e segue a interrupção do Sora, rede social de vídeos gerados por IA (mais detalhes abaixo).

A decisão ocorre após resistência interna de funcionários e investidores preocupados com os possíveis efeitos nocivos do conteúdo sexualizado de IA na sociedade. De acordo com o FT, a OpenAI quer dedicar mais tempo pesquisando os efeitos de longo prazo desse tipo de interação antes de tomar uma decisão definitiva sobre o produto.

A empresa afirmou que atualmente não há “evidência empírica” sobre esses impactos.

Na semana passada, o Wall Street Journal também reportou que o modo adulto havia sido adiado devido a preocupações internas relacionadas à moderação e proteção de crianças.

Não foi só o ChatGTP erótico: OpenAI revisita suas prioridades

A suspensão indefinida do projeto ocorre em um momento em que a OpenAI reavalia suas prioridades. A companhia tem enfrentado pressão crescente de rivais no setor de IA, levando a uma estratégia que prioriza produtos centrais em detrimento de funcionalidades experimentais.

Ainda nesta semana, a desenvolvedora comunicou a descontinuação do Sora, aplicativo de geração de vídeos de IA. A ação também faz parte da estratégia de priorizar produtos mais consolidados e rentáveis.

O encerramento resultou na recisão do contrato de US$ 1 bilhão com a Disney. O Olhar Digital deu os detalhes aqui.

O post OpenAI interrompe planos de lançar ChatGPT erótico apareceu primeiro em Olhar Digital.

A OpenAI adiou o lançamento do seu “modo adulto”, recurso que permitiria conversas com conteúdo erótico no ChatGPT. Originalmente previsto para estrear no primeiro trimestre de 2026, o projeto foi postergado para que a empresa priorize o desenvolvimento de outros produtos e solucione desafios técnicos.

A iniciativa é defendida pelo CEO da empresa, Sam Altman, sob a premissa de que a companhia deve tratar o público maior de idade com autonomia. No entanto, a proposta gerou divergências internas.

O embate colocou em lados opostos a busca por liberdade de uso e a necessidade de implementar salvaguardas contra danos psicológicos ou o acesso indevido de menores a interações sexualmente explícitas, segundo o Wall Street Journal.

‘Modo adulto’ do ChatGPT: conselheiros da OpenAI alertam para dependência emocional e falhas na verificação de idade 

Em reuniões ocorridas em janeiro, o conselho consultivo da OpenAI, composto por especialistas em psicologia e neurociência, manifestou oposição unânime à liberação de erótica na plataforma. 

A principal preocupação reside no potencial da inteligência artificial (IA) para fomentar dependência emocional. Especialistas alertam que a ferramenta corre o risco de estimular vínculos obsessivos. Em casos anteriores, usuários tiraram a própria vida após desenvolverem relações com chatbots.

No campo técnico, a imprecisão do sistema de predição de idade é um dos obstáculos mais críticos. Diferente de métodos que exigem documentos, essa tecnologia usa algoritmos para estimar a faixa etária do usuário. Mas testes internos revelaram uma falha grave: o sistema classificou erroneamente 12% dos menores como adultos. 

Dada a base de 100 milhões de usuários semanais abaixo de 18 anos, essa margem de erro exporia milhões de adolescentes a conteúdos sexuais inadequados.

Documentos internos também apontam riscos de uso compulsivo, no qual o chatbot poderia substituir relacionamentos sociais e românticos do mundo real. 

Para mitigar esses efeitos, a OpenAI planeja restringir o recurso exclusivamente a textos eróticos (conhecidos como smut ou literatura erótica), mantendo o veto absoluto à geração de imagens, vozes ou vídeos com teor sexual. 

Além disso, a empresa está treinando seus modelos para desencorajar ativamente a formação de relacionamentos exclusivos com a máquina.

O histórico da OpenAI revela uma postura oscilante sobre o tema. Em 2021, a empresa baniu conteúdos eróticos após o jogo AI Dungeon, que utilizava sua tecnologia, gerar cenários de exploração sexual e incesto. 

Na época, o temor era que a OpenAI fosse rotulada como uma “empresa de erótica”, prejudicando outras finalidades da ferramenta. Hoje, o cenário mudou: Altman sugere que a permissão de conteúdos explícitos poderia impulsionar a receita num mercado cada vez mais competitivo.

A OpenAI se movimenta para não perder espaço para concorrentes como a xAI, de Elon Musk, e a Meta, que já permitem diferentes níveis de interações românticas ou conteúdos de classificação restrita. 

Contudo, o setor enfrenta vigilância legal crescente após incidentes reais, como o processo movido na Flórida por uma mãe cujo filho de 14 anos se suicidou após desenvolver uma relação amorosa com um bot da Character.AI. Especialistas em saúde mental reforçam que adolescentes não possuem maturidade para lidar com tais trocas sexuais com máquinas.

Em sua defesa, a OpenAI diz que não deseja ser a “polícia moral do mundo”, comparando as restrições de idade às classificações indicativas do cinema. 

A diretoria de aplicações confirmou que a implementação do sistema de verificação será lenta para garantir maior precisão técnica. Com isso, a expectativa interna é de que o lançamento do recurso sofra um atraso de, no mínimo, um mês em relação ao cronograma anterior.

O post Por que o ‘modo adulto’ do ChatGPT preocupa conselheiros da própria OpenAI apareceu primeiro em Olhar Digital.