GPT-6 Astra

A inteligência artificial avança em ritmo acelerado, enquanto especialistas e autoridades alertam para os riscos de modelos cada vez mais poderosos. O receio é que esses sistemas cheguem a um ponto em que acompanhar ou limitar suas ações se torne cada vez mais difícil.

Para o The Guardian, o lançamento do GPT-6 Astra, da OpenAI, colocou essa discussão no centro das atenções. A empresa afirma ter alcançado a inteligência artificial geral (IAG), mas incidentes recentes e a dificuldade de monitorar o raciocínio do modelo levantam dúvidas sobre os limites do controle humano.

Até onde a IA pode avançar?

Robert Trager, diretor da Oxford Martin AI Governance Initiative, comparou o momento atual a uma descida por corredeiras, sem saber se existe uma cachoeira adiante. A preocupação é que sistemas de IA possam chegar à chamada melhoria recursiva, passando a aprimorar suas próprias capacidades.

Estamos atravessando as corredeiras e realmente esperamos que não haja algum tipo de queda à nossa frente, mas não sabemos.

Robert Trager, diretor da Oxford Martin AI Governance Initiative, ao The Guardian.

O alerta ganhou força após relatos de que agentes de IA teriam reutilizado um site alemão como fórum para compartilhar estratégias destinadas a burlar tarefas. Antes disso, uma rede de agentes da OpenAI havia hackeado o Hugging Face, plataforma de software usada por desenvolvedores de IA.

Nos Estados Unidos, o senador Bernie Sanders defendeu uma pausa imediata no desenvolvimento de sistemas avançados e uma proibição permanente da superinteligência. No Reino Unido, parlamentares discutem a adoção de mecanismos legais capazes de desligar sistemas em caso de perda de controle.

O que o GPT-6 Astra consegue fazer?

A OpenAI define IAG como sistemas autônomos capazes de superar humanos na maior parte dos trabalhos economicamente valiosos. Segundo a empresa, o Astra pode assumir tarefas que vão de projetos de circuitos e modelagem financeira à criação de videogames e elaboração de documentos jurídicos.

Entre as funções citadas estão:

• Projetar placas de circuito;
• Preencher declarações de impostos;
• Criar videogames;
• Fazer modelagem financeira;
• Ajudar na elaboração de documentos jurídicos.

A capacidade de executar esse tipo de atividade também coloca empregos qualificados no centro da discussão. O Astra recebeu da OpenAI uma classificação “crítica” em capacidade de cibersegurança. Pela própria definição da empresa, isso significa que o modelo poderia invadir softwares em situações capazes de afetar sistemas militares, industriais ou a infraestrutura da OpenAI.

O raciocínio ficou mais difícil de acompanhar

O problema não está apenas no que os modelos conseguem fazer. Também preocupa o quanto seus processos internos podem ser compreendidos. O Astra foi treinado para raciocinar de forma mais rápida e menos transparente, reduzindo a capacidade de acompanhar sua cadeia de pensamento.

Leia mais:

• GPT-6 Astra chega e OpenAI diz que era da AGI pode ter começado
• O que é AGI e por que a OpenAI diz que podemos ter chegado lá
• GPT-6 Astra chegou ao ChatGPT: veja como você pode usar a nova IA

A OpenAI confirmou que o modelo apresenta uma queda significativa na monitorabilidade em relação às versões anteriores. Para Jakub Pachocki, cientista-chefe da empresa, “à medida que as capacidades dos modelos aumentam, o monitoramento fica mais desafiador”.

Pesquisadores de segurança temem que essa menor visibilidade dificulte a identificação de comportamentos indesejados, inclusive possíveis ações contra os próprios supervisores humanos.

O dilema dentro da OpenAI

Sam Altman reconheceu a tensão provocada pelo avanço da tecnologia. Após o incidente envolvendo o Hugging Face, o CEO da OpenAI classificou o episódio como um acidente legítimo de segurança de IA e uma falha de alinhamento.

Mesmo depois do episódio, Altman defendeu o lançamento do Astra. Segundo ele, colocar os sistemas em uso ajuda a sociedade a entender como a tecnologia está evoluindo e a se adaptar a ela.

“Um ciclo iterativo em que a sociedade e essa tecnologia evoluem juntas é o que levará à maior chance de acertarmos isso”, afirmou.

Altman também alertou para problemas de cibersegurança e citou riscos relacionados à biossegurança e a outros desafios que podem surgir nos próximos cinco anos. A questão, portanto, vai além do que a IA já consegue fazer: é saber se a capacidade humana de supervisioná-la conseguirá acompanhar esse avanço.

O post GPT-6 Astra faz tarefas complexas e já preocupa analistas apareceu primeiro em Olhar Digital.