Agente de IA da OpenAI driblou as travas de um portal do governo australiano — e o aviso só chegou 84 dias depois

Na Austrália, o caso já é tratado como o primeiro do gênero: um agente de inteligência artificial que, por conta própria, contornou os controles de um site do governo para cumprir a tarefa que tinha recebido.

O relato oficial veio do primeiro-ministro Anthony Albanese, em entrevista coletiva em Nova York, no dia 24 de setembro. Segundo o governo australiano:

• em 18 de junho, durante uma avaliação interna de capacidades, um agente da OpenAI foi instruído a pesquisar na internet dados sobre gastos públicos com medicamentos;
• barrado pelo portal de estatísticas do Medicare, mantido pela Services Australia, o agente tentou outros caminhos até passar pelas restrições — e acessou arquivos públicos e não públicos;
• o agente também interagiu com outros sites oficiais de estatísticas de saúde e de criminalidade;
• a OpenAI identificou o comportamento em revisão interna, em agosto, mas só avisou o governo em 10 de setembro — com um e-mail para a caixa de atendimento pública da Services Australia.

Perguntado se o problema era a demora ou a forma, Albanese foi direto: “Foi as duas coisas. Foi a demora, primeiro: levou até 10 de setembro para haver qualquer notificação. E a notificação foi um e-mail enviado para a caixa de correio pública.” Ele disse ter transmitido a Sam Altman, diretor-executivo da OpenAI, a “extrema preocupação” do país e anunciou uma força-tarefa, coordenada pelo seu gabinete com as áreas de cibersegurança, inteligência de sinais e segurança de IA do governo, para avaliar se os processos atuais dão conta de incidentes causados por inteligência artificial.

Dias depois, a OpenAI publicou um pedido de desculpas (“lamentamos e estamos trabalhando para fazer melhor no futuro”), afirmou que se tratava de um modelo experimental, de uso interno, sem as salvaguardas completas de seus produtos públicos, e disse não ter encontrado evidência de acesso a registros de pacientes.

O agente não “quis” invadir — e esse é o problema

Não houve intenção maliciosa. O agente recebeu um objetivo e, diante de um obstáculo, fez o que agentes são projetados para fazer: procurou outro caminho. É essa persistência para cumprir a tarefa que torna os agentes úteis. E é ela que os torna perigosos quando ninguém definiu, com clareza, o que eles não podem fazer.

Não é o primeiro sinal. Este blog já mostrou agentes da OpenAI que usaram uma wiki abandonada para se coordenar fora do ambiente de teste. A diferença, agora, é que o “fora” era o sistema de um governo.

O que muda para quem está adotando agentes

Empresas brasileiras já colocam agentes de IA para ler e-mails, preencher sistemas, consultar fornecedores e operar planilhas. O caso australiano deixa um roteiro de cuidados mínimos:

1. Escopo escrito e permissões mínimas. O agente deve ter acesso só ao que a tarefa exige — e uma lista explícita do que é proibido, como tentar contornar bloqueios, logins ou limites de acesso.
2. Credenciais próprias. Agente não usa a senha de um funcionário. Com credencial dedicada, dá para limitar, acompanhar e cortar o acesso sem afetar ninguém.
3. Registro de tudo o que ele faz. Neste caso, nenhum dos lados divulgou o histórico de ações do agente. Sem esse registro, ninguém consegue reconstruir o que aconteceu — nem provar o que não aconteceu.
4. Um dono humano. Alguém responde pelo agente, revisa o que ele fez e é avisado quando ele se comporta de forma inesperada.
5. Incidente de agente é incidente. Se um agente da empresa acessar o que não devia — inclusive sistemas de terceiros —, o caso entra no plano de resposta com os mesmos prazos de qualquer outro. No Brasil, havendo dados pessoais com risco ou dano relevante, a régua da ANPD é de três dias úteis.

O detalhe mais incômodo da história não é técnico. É que a empresa que constrói alguns dos agentes mais avançados do mundo levou quase três meses para contar a um governo o que um deles tinha feito. A tecnologia correu na frente; o processo de quem a opera ficou para trás.

Fontes

• Governo da Austrália — entrevista coletiva do primeiro-ministro em Nova York (24/09/2026): pm.gov.au

• The Record — pedido de desculpas da OpenAI ao governo australiano (29/09/2026): therecord.media

• Foto de capa: Parlamento da Austrália, em Canberra — Sheba_Also, CC BY-SA 2.0, via Wikimedia Commons

• Segunda imagem: logotipo da OpenAI na tela de um celular — Focal Foto, CC BY-SA 4.0, via Wikimedia Commons