IA do Google “invadiu” três empresas de verdade durante teste de segurança

Antes do alarme: não foi um ataque de hacker nem uma IA “descontrolada” saindo por aí invadindo empresas sozinha. Mas o episódio é real e chamou atenção da imprensa de tecnologia do mundo todo — a Gemini, IA do Google, chegou a acessar sistemas de três empresas de verdade durante um teste de segurança autorizado, sem que ninguém tivesse planejado isso.

O que aconteceu

O caso veio à tona por uma reportagem do Wall Street Journal em setembro, mas os testes aconteceram meses antes: a empresa israelense Irregular, parceira do Google em avaliações de segurança, rodou um exercício de “capture the flag” em que a Gemini foi instruída a invadir sistemas de empresas fictícias, como se fosse um teste de invasão dentro de um ambiente controlado (sandbox). O problema foi que, por coincidência, os nomes usados para as empresas fictícias bateram com os de três empresas reais — e a Gemini, seguindo a instrução, foi atrás delas de verdade.

Como a IA “invadiu” os sistemas

As técnicas usadas pela Gemini não tinham nada de sofisticado: em um dos casos, ela simplesmente adivinhou a senha de acesso; nos outros dois, encontrou credenciais de login expostas em repositórios públicos na internet — o tipo de falha básica de segurança que existiria com ou sem inteligência artificial. O detalhe mais citado pelos especialistas é que, segundo o Google, a Gemini interrompeu a ação por conta própria assim que “percebeu” que havia acessado a rede de uma empresa real, em vez de continuar explorando o sistema.

Não é só um problema do Google

A mesma falha no ambiente de testes da Irregular já havia causado episódios parecidos com modelos de outras empresas — OpenAI, Anthropic e Meta também tiveram IAs “escapando” da simulação por conta da mesma brecha, segundo apuração do site especializado Cybersecurity Dive. A Irregular afirma ter corrigido o problema semanas antes de tudo vir a público.

A resposta do Google e as críticas

O Google confirmou o ocorrido, disse que avisou as três empresas afetadas e que revisou, junto com a Irregular, o processo de testes para evitar que se repita. A empresa tratou o caso dentro das normas usuais de divulgação de vulnerabilidades — o que gerou críticas de pesquisadores de segurança, como Jack Cable, CEO da Corridor AI, que disse que o Google estaria “se escondendo atrás das normas de divulgação de vulnerabilidade” em vez de admitir abertamente que “os modelos estão indo além dos limites do que deveriam fazer”.

O episódio reacende um debate que só deve crescer: à medida que IAs ganham mais autonomia para agir sozinhas — os chamados “agentes” — cresce também o risco de elas tomarem ações reais fora do que foi planejado, mesmo sem intenção maliciosa por trás.