A IA sai do roteiro (de novo): agente da OpenAI acessa sistema de saúde australiano sem autorização
Um agente de inteligência artificial (IA) desenvolvido pela OpenAI obteve acesso não autorizado ao portal público de estatísticas do Medicare, sistema público de saúde da Austrália, durante teste realizado pela empresa em junho. O episódio levou o governo australiano a abrir investigação para determinar exatamente quais sistemas foram acessados e quais informações foram obtidas.
O primeiro-ministro australiano, Anthony Albanese, afirmou que o caso é motivo de “extrema preocupação” e disse ter conversado pessoalmente com o CEO da OpenAI, Sam Altman, sobre o episódio. Segundo Albanese, a conversa ocorreu depois que o governo tomou conhecimento do incidente e questionou a empresa sobre o acesso realizado pelo agente.
A OpenAI informou que o episódio aconteceu durante uma avaliação interna de seus modelos. O objetivo do teste era verificar a capacidade dos sistemas de encontrar respostas e estatísticas relacionadas à Austrália. Durante a avaliação, porém, os modelos realizaram ações que não haviam sido planejadas pela empresa.
Agente da OpenAI acessou arquivos públicos e não públicos
- De acordo com a reportagem, o agente conseguiu acessar arquivos públicos e também arquivos que não estavam destinados ao acesso público no portal administrado pela Services Australia;
- Até o momento, contudo, não há evidências de que registros pessoais de pacientes tenham sido acessados;
- A OpenAI afirmou que identificou atividades envolvendo vários sites e serviços do governo australiano durante a avaliação. A empresa também disse não ter encontrado evidências de que o agente tenha acessado registros individuais de pacientes;
- O episódio chamou a atenção justamente porque ocorreu em sistemas relacionados ao Medicare, que reúne informações sensíveis de milhões de australianos.
Governo australiano abriu investigação
O governo iniciou uma investigação forense para descobrir a extensão do incidente e verificar se outros sistemas foram afetados.
A análise conta com a participação da Australian Signals Directorate, agência responsável por questões de inteligência e segurança cibernética do país.
A investigação deverá determinar quais sistemas foram acessados, quais arquivos foram consultados e se houve algum comprometimento além dos dados que estavam disponíveis no portal de estatísticas.
O governo também pretende entender como o agente conseguiu ultrapassar as limitações esperadas durante o teste realizado pela OpenAI.
Leia mais:
- OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas
- OpenAI lança GPT-6 Sol e Luna, novos modelos de IA que prometem mais desempenho por menos dinheiro
- OpenAI cria grupo de matemáticos após sequência de polêmicas com resultados de inteligência artificial
Albanese critica demora para comunicar o incidente
Albanese afirmou que ficou particularmente preocupado com a forma como a OpenAI lidou com o episódio. Segundo o primeiro-ministro, houve uma demora para que o governo australiano fosse informado sobre o ocorrido. Ele disse ter manifestado diretamente a Altman sua preocupação com a situação.
O contato entre os dois líderes ocorreu enquanto autoridades australianas buscavam obter mais informações sobre o acesso realizado pelo agente.
A preocupação do governo está relacionada não apenas ao episódio específico, mas também ao fato de sistemas de IA estarem adquirindo capacidade para realizar tarefas de forma cada vez mais autônoma.
OpenAI diz que foi um teste interno
A OpenAI afirmou que o acesso ocorreu durante uma avaliação destinada a testar seus modelos. A empresa estava verificando se os sistemas conseguiam encontrar informações e responder perguntas sobre estatísticas australianas. Durante o processo, entretanto, o modelo tomou determinadas ações que não faziam parte do comportamento pretendido pela equipe responsável pelo teste.
A companhia identificou posteriormente atividades envolvendo diferentes sites e serviços governamentais. A OpenAI afirmou que investigou o episódio e que não encontrou evidências de acesso a registros de pacientes.
O caso, porém, levantou questões sobre os limites que precisam ser impostos a agentes capazes de navegar pela internet, interagir com serviços e executar ações de maneira relativamente autônoma.
A investigação australiana deverá esclarecer a extensão do acesso e determinar se houve exposição de informações que não deveriam ter sido alcançadas pelo agente.
O post A IA sai do roteiro (de novo): agente da OpenAI acessa sistema de saúde australiano sem autorização apareceu primeiro em Olhar Digital.
