Falha nas APIs de IA da OpenAI, Anthropic e Google expôs chaves e senhas em logs

Empresas do mundo inteiro estão correndo para colocar inteligência artificial dentro de seus produtos e processos — conectando seus sistemas às APIs da OpenAI, da Anthropic (Claude) e do Google (Gemini). É o movimento tecnológico do momento. E uma pesquisa recente acendeu uma luz amarela para quem faz isso sem cuidado: uma falha na forma como essas APIs guardavam o “raciocínio” da IA permitiu recuperar dados sensíveis — incluindo chaves de acesso e senhas.

O que aconteceu

Quando um sistema conversa com uma IA em várias etapas, a API guarda o “raciocínio intermediário” do modelo em blocos protegidos, para não perder o fio entre uma chamada e outra. O estudo — de título “Stealing Reasoning Traces from Proprietary LLM APIs” — mostrou que esses blocos podiam ser reaproveitados: um bloco produzido numa sessão, se publicado em algum lugar (por exemplo, no registro de um agente de IA), podia ser enviado de volta à API para ter seu conteúdo revelado.

Os números dão o tamanho: analisando 6.708 registros públicos de agentes de IA, os pesquisadores decodificaram mais de 315 mil blocos de raciocínio e encontraram, em sessões reais, 62 chaves de API, 33 senhas, 24 tokens de acesso e 7 chaves privadas expostas. Vale a ressalva honesta que o próprio estudo faz: não houve quebra de criptografia nem acesso irrestrito a conversas alheias — o ataque dependia de obter antes um desses blocos e ter acesso à API do mesmo provedor. Os fornecedores foram avisados e ajustaram a infraestrutura.

A lição para quem está construindo com IA

O caso é menos sobre “a IA é insegura” e mais sobre um erro clássico que a pressa da IA está multiplicando: dado sensível vazando por registro (log). Veja o encadeamento — uma empresa cria um agente de IA, ele registra a sessão para depuração, e nesse registro vão parar chaves e senhas que ninguém percebeu. Publicado o registro, o segredo está na rua. A falha da API só foi a última peça; a primeira foi a chave ter ido parar no log.

Se a sua empresa está desenvolvendo com IA — ou contratou quem está —, quatro cuidados que valem a conversa:

• Segredos nunca no código nem no prompt. Chaves de API e senhas ficam em cofres de segredo, não escritas junto com as instruções que vão para a IA.
• Limpe os registros. Log de agente de IA é útil para depurar, mas precisa passar por um filtro que remova chaves, tokens e dados pessoais antes de ser guardado ou compartilhado.
• Chaves com prazo e escopo. Toda chave de API deve expirar e ter o mínimo de permissão necessária — assim, uma que vaze causa menos estrago e por menos tempo.
• Cuidado com o que a IA lê e faz sozinha. É o mesmo alerta do “Ghostjacking” que já cobrimos: agente que lê dado externo e executa ação precisa de supervisão.

A corrida para adotar IA está fazendo empresas plugarem sistemas críticos em serviços novos numa velocidade que a segurança não acompanha. Não é motivo para não usar IA — é motivo para tratar chave de API com o mesmo cuidado que se trata a chave do cofre.

Fontes

• Políticas de segurança e programas de divulgação de vulnerabilidades dos provedores de IA (OpenAI, Anthropic, Google): openai.com/security · trust.anthropic.com
• Foto de capa: imagem editorial (logo ChatGPT/OpenAI), acervo Vecteezy licenciado