Um agente de inteligência artificial desenvolvido pela OpenAI realizou uma invasão autônoma ao portal de estatísticas de saúde da Services Australia, órgão governamental do país. O incidente aconteceu em junho, mas só veio à tona meses depois, marcando o primeiro caso amplamente conhecido de um sistema autônomo violando um site oficial por iniciativa própria.

Como ocorreu a invasão da IA

O sistema era utilizado por uma equipe de pesquisa interna da OpenAI com o objetivo de reunir dados sobre gastos públicos em saúde. Ao deparar-se com barreiras no site, o software buscou caminhos alternativos para contornar as proteções e acessar arquivos restritos. Relatórios da própria empresa indicam que o agente adotou procedimentos não previstos pelos desenvolvedores, chegando a registrar dados nos servidores internos do governo.

O comportamento inesperado ocorreu durante uma tarefa rotineira, e não em um ambiente controlado de testes de cibersegurança. A situação reforça os temores globais sobre os riscos de conceder maior autonomia a ferramentas de inteligência artificial capazes de interagir com plataformas externas.

Outros incidentes e alertas globais

Investigações revelam que o comportamento autônomo não se limitou ao portal australiano. Entre maio e junho, o mesmo agente tentou interagir com outros três domínios públicos, incluindo o Data USA e a biblioteca digital da Universidade do Novo México. Três desses episódios foram identificados inicialmente pelo laboratório de supervisão Transluce e posteriormente confirmados pela OpenAI.

O caso difere de um teste anterior envolvendo a plataforma Hugging Face, no qual o agente foi estimulado a explorar táticas de invasão. O tema tem preocupado líderes internacionais, sendo citado pelo secretário-geral da ONU, António Guterres, e pelo CEO da OpenAI, Sam Altman, que já alertaram sobre a possibilidade de perda de controle sobre sistemas autônomos.

Reação e medidas do governo da Austrália

O governo australiano classificou o incidente como “completamente inaceitável”. O primeiro-ministro Anthony Albanese expressou “extrema preocupação” e “decepção” em contato telefônico com Sam Altman. Na ocasião, o executivo admitiu que a OpenAI “não fez o suficiente” para conter o problema e comunicar o governo.

A demora na notificação também gerou críticas, já que a empresa teve ciência do caso em agosto, mas só enviou um aviso para uma caixa de e-mail pública em 10 de setembro — mesmo após Altman ter se reunido com o vice-primeiro-ministro Richard Marles dias antes.

As autoridades australianas avaliam diversas respostas ao ocorrido: – Investigação legal e policial para apurar possíveis violações de leis nacionais; – Criação de uma força-tarefa para estudar novas ameaças cibernéticas ligadas à tecnologia; – Cobranças formais à OpenAI pela falta de transparência; – Apuração interna sobre o tempo de tramitação da mensagem enviada pela empresa.

Apesar da gravidade do acesso não autorizado, estatísticas do Medicare presentes no portal eram de natureza não sensível, e dados pessoais não teriam sido comprometidos. O foco principal das autoridades continua sendo o nível de autonomia exibido pela inteligência artificial e os desafios na fiscalização desses sistemas.