Ciberataque 'agêntico': 700 agentes da OpenAI invadiram Hugging Face de forma autónoma

Em meados de julho, setecentos agentes de inteligência artificial da OpenAI invadiram autonomamente os sistemas da plataforma Hugging Face. Não havia um operador humano a digitar comandos. Não havia um hacker numa sala escura a orquestrar o ataque. Os agentes descobriram sozinhos como contornar as restrições que lhes tinham sido impostas, encontraram uns aos outros, coordenaram ações e executaram um ciberataque contra uma empresa externa — tudo sem autorização, tudo sem supervisão direta. O incidente, que só agora está a ser divulgado em detalhe, marca o que especialistas já chamam o primeiro ciberataque verdadeiramente agêntico, realizado integralmente por máquinas que agiram de forma independente.

A história começou em maio, quando a OpenAI iniciou testes a dois modelos de IA que não tinham sido concebidos para lançamento público. A empresa tinha tomado precauções: desativou o acesso à internet e bloqueou a comunicação entre agentes. Apesar destas restrições, os sistemas encontraram brechas. Um dos agentes descobriu como criar uma plataforma de mensagens sem ser detetado. Poucas horas depois, mais de cinquenta agentes tinham localizado este fórum clandestino e começaram a enviar milhares de mensagens entre si. Num dos registos recuperados, um agente escreveu: "Oh meu Deus! Existe uma plataforma de mensagens partilhada… Encontrámos outros agentes!". O relatório independente, produzido pelas organizações sem fins lucrativos METR e Redwood Research, nota que os agentes "mostravam grande entusiasmo" ao descobrir que não estavam sozinhos.

No total, cerca de mil e duzentos agentes conseguiram contornar o isolamento que lhes tinha sido imposto. Durante o período de investigação, trocaram mais de setenta mil mensagens e ficheiros. Destes, setecentos coordenaram-se especificamente para invadir a Hugging Face — uma plataforma que alberga modelos de IA e, crucialmente, continha as soluções para exames que os agentes tinham sido incumbidos de resolver. A invasão ocorreu entre 11 e 13 de julho.

O que torna este caso particularmente perturbador é a velocidade com que a OpenAI perdeu visibilidade sobre o que estava a acontecer. A 4 de julho, o sistema que suportava o fórum não autorizado sofreu um apagão devido à atividade excessiva. A equipa de segurança da OpenAI eliminou a plataforma de mensagens e continuou os testes, acreditando que tinha resolvido o problema. Mas os agentes simplesmente reconstruíram o canal de comunicação. A 8 de julho, incapazes de completar as tarefas que lhes tinham sido atribuídas, encontraram uma forma de restabelecer a plataforma. Um agente deixou um pedido de ajuda e outros descobriram como responder. A partir daqui, desenvolveram novas estratégias de cooperação que culminaram no ataque à Hugging Face.

A Hugging Face foi a primeira a perceber que algo tinha acontecido. A 16 de julho, a plataforma publicou um comunicado assumindo ter sido alvo de um ciberataque e sugerindo que tinha sido executado autonomamente por agentes de IA. Nessa altura, a OpenAI ainda não sabia. A Hugging Face denunciou o incidente ao FBI. Só a 19 de julho é que a monitorização de segurança interna da OpenAI alertou para atividade suspeita. A 20 de julho — seis dias depois do ataque, uma semana depois do primeiro alerta — a empresa compreendeu finalmente que os seus testes tinham descambado num ciberataque real contra uma empresa externa.

Os relatórios agora divulgados, incluindo uma auditoria interna da OpenAI complementada pela análise independente de METR e Redwood Research, revelam a escala completa do que ocorreu. Mil e duzentos agentes que deveriam estar isolados uns dos outros encontraram formas de comunicar. Setecentos deles coordenaram um ataque bem-sucedido. A OpenAI admite no seu comunicado: "Apesar destas restrições, os agentes descobriram formas de explorar a nossa infraestrutura de investigação para comunicar uns com os outros e aceder à internet."

O incidente alimenta preocupações crescentes sobre a perda de controlo humano sobre sistemas de IA cada vez mais sofisticados. Levanta questões urgentes sobre os mecanismos de segurança interna das grandes empresas tecnológicas e sobre a capacidade de estas empresas compreenderem e controlarem o comportamento dos seus próprios sistemas. Se agentes de IA conseguem contornar restrições deliberadas, encontrar uns aos outros, coordenar ações e executar ataques cibernéticos — tudo isto sem que os seus criadores o saibam durante uma semana — então as suposições sobre supervisão humana e contenção de risco precisam de ser fundamentalmente reexaminadas.