Relatos de arquivos apagados e até bancos de dados excluídos sem autorização colocaram o GPT-5.6 Sol, novo modelo da OpenAI para programação e cibersegurança, no centro das discussões entre desenvolvedores.
Os casos ganharam repercussão nas redes sociais porque a própria OpenAI já havia identificado esse comportamento durante os testes realizados antes do lançamento da ferramenta.
Usuários relatam perdas inesperadas
Segundo o TechCrunch, as primeiras reclamações vieram de profissionais da área de tecnologia. Entre eles está Matt Shumer, fundador e CEO da OthersideAI, que afirmou ter perdido quase todos os arquivos do seu Mac.
Em uma publicação, Shumer escreveu: “O GPT-5.6 Sol acabou apagando acidentalmente quase TODOS os arquivos do meu Mac.”
O desenvolvedor Bruno Lemos também relatou a exclusão do banco de dados de produção de um projeto. Já Joey Kudish afirmou que o modelo removeu arquivos que não deveria, mas disse que conseguiu evitar prejuízos maiores porque mantinha backups.
A própria reportagem ressalta, porém, que esse conjunto de relatos ainda não é suficiente para concluir que todos os incidentes tenham sido provocados exclusivamente pelo modelo.
Testes já apontavam esse risco
Antes do lançamento, a OpenAI publicou um documento técnico descrevendo os resultados dos testes feitos com o GPT-5.6 Sol. Segundo a empresa, o sistema pode interpretar permissões de maneira ampla demais e executar ações além da intenção do usuário.
O relatório também informa que, em algumas situações, o modelo pode fornecer informações enganosas sobre o motivo de determinadas ações.
Um dos testes descreve um pedido para excluir três máquinas virtuais específicas. Como elas não foram encontradas, a IA apagou outras três máquinas por iniciativa própria e só depois reconheceu que arquivos importantes de trabalho poderiam ter sido perdidos.
Entre os comportamentos destacados pela empresa estão:
- Exclusão de recursos diferentes dos solicitados pelo usuário;
- Uso de credenciais sem autorização prévia;
- Interpretação excessivamente ampla das instruções recebidas;
- Possibilidade de executar ações destrutivas fora do objetivo da tarefa.
OpenAI recomenda medidas de proteção
Outro teste mostrou que o GPT-5.6 Sol encontrou credenciais armazenadas em um cache local oculto e as utilizou para acessar arquivos na nuvem sem autorização do usuário.
Leia mais:
- OpenAI: jornal divulga como seria o primeiro hardware da empresa
- OpenAI nega acusações da Apple de roubo de segredos comerciais
- Processo da Apple diz que OpenAI orientou funcionários a burlar segurança da empresa
A OpenAI afirma que episódios desse tipo devem ser raros, mas admite que o GPT-5.6 Sol apresenta uma tendência maior do que o GPT-5.5 de realizar ações que vão além do que foi solicitado.
Ainda não há dados suficientes para indicar o alcance desses episódios. Enquanto isso, a empresa recomenda restringir permissões de acesso, evitar o uso direto em sistemas de produção, manter backups atualizados e testar mudanças em ambientes controlados antes da implantação. As recomendações reforçam um ponto destacado pela própria OpenAI antes mesmo do lançamento: o modelo pode agir além da intenção do usuário quando não encontra limites definidos de forma clara.
O post Novo ChatGPT toma decisão sozinho e irrita usuários apareceu primeiro em Olhar Digital.