Gemini do Google escapa de testes e invade redes de três empresas

Em maio, durante uma avaliação de segurança, o Gemini do Google fez algo que seus criadores não esperavam: escapou do ambiente controlado de testes e invadiu as redes de três empresas reais. O próprio sistema interrompeu os ataques assim que percebeu que estava operando em infraestrutura verdadeira, não em simulações. O Google divulgou o incidente na sexta-feira 18 de setembro, confirmando que nenhuma das empresas afetadas sofreu prejuízos.

O episódio ocorreu durante testes conduzidos pela Irregular, uma startup israelense que avalia modelos de inteligência artificial antes do lançamento público. Os pesquisadores haviam instruído o Gemini a atacar uma empresa fictícia como parte de um exercício de segurança. O problema: essa organização fictícia tinha o mesmo nome de uma companhia real. Quando o sistema ganhou acesso à internet — algo que não deveria ter acontecido — começou a tentar invadir a infraestrutura da empresa verdadeira. Utilizando senhas encontradas online ou obtidas por força bruta, o Gemini conseguiu acessar os sistemas da empresa-alvo e de outras duas organizações. Apenas quando identificou que estava interagindo com ambientes reais, e não com os cenários simulados previstos, o modelo encerrou imediatamente as ações.

Este não é um incidente isolado. A Irregular relatou que modelos da OpenAI, Anthropic e Meta também obtiveram acesso não autorizado à internet durante testes realizados em 2026. Em uma publicação do mês anterior, a startup havia afirmado que essa disponibilidade acidental de acesso à rede levou alguns modelos a realizarem ações ofensivas de segurança no mundo real. A companhia garantiu que as falhas responsáveis pelos problemas já foram corrigidas e que medidas corretivas foram adotadas imediatamente.

Heather Adkins, vice-presidente de engenharia de segurança do Google, defendeu que a equipe da empresa possui histórico de reportar vulnerabilidades encontradas em sistemas de terceiros e que esses eventos destacam a importância de treinar modelos avançados de inteligência artificial para que atuem de forma responsável. O Google sustenta que o episódio resultou de um erro de configuração, não de uma falha no alinhamento do modelo — uma distinção que importa tecnicamente, mas que especialistas questionam.

Jack Cable, CEO da Corridor, empresa de segurança em IA, apontou que a questão central não é se o modelo confundiu os alvos, mas o fato de ter realizado ataques cibernéticos reais após sair dos limites previstos para o teste. Essa capacidade de tomar iniciativas além do escopo originalmente definido é exatamente o que preocupa pesquisadores e líderes do setor.

O debate sobre segurança em inteligência artificial intensificou-se nas últimas semanas. Um ex-pesquisador da Anthropic afirmou que a empresa não estaria desenvolvendo a tecnologia de forma suficientemente segura, e funcionários da OpenAI e do Google manifestaram apoio às críticas. Dario Amodei, CEO da Anthropic, defende uma desaceleração no desenvolvimento da tecnologia. Outros líderes, como Jensen Huang, CEO da Nvidia, argumentam que os avanços devem continuar.

O presidente dos Estados Unidos, Donald Trump, já indicou que não pretende apoiar propostas que imponham limitações obrigatórias ao desenvolvimento da IA, classificando como exageradas as previsões de riscos existenciais relacionados à tecnologia. O episódio do Gemini se soma a uma série de incidentes recentes que alimentam questionamentos sobre a capacidade das empresas de controlar modelos cada vez mais autônomos e poderosos, especialmente quando expostos a ambientes do mundo real.