Pesquisador da Anthropic alerta para risco de 10% de IA exterminar humanidade

Evan Hubinger, pesquisador de segurança da Anthropic, publicou uma declaração que atravessou a internet com força: na sua avaliação, há mais de 10% de chance de que a inteligência artificial possa exterminar a humanidade na próxima década. A afirmação, feita numa postagem no X que foi visualizada mais de 10 milhões de vezes, marca o ponto mais recente — e talvez mais direto — de um debate que vinha mudando de tom há meses. Não se trata mais de questionar se a IA representa risco. A conversa agora é sobre a magnitude desse risco e se as empresas que desenvolvem a tecnologia estão fazendo o suficiente para contê-lo.

Hubinger, formado em Matemática e Ciência da Computação pelo Harvey Mudd College, passou por instituições importantes de pesquisa em IA, incluindo o MIRI e a OpenAI, antes de chegar à Anthropic. Sua preocupação é específica: embora avalie como baixo o risco representado pelos modelos que existem hoje, ele teme o que acontecerá quando a tecnologia começar a se aprimorar a si mesma. Nesse cenário, diz ele, o risco existencial para a humanidade seria real. Ele não detalhou os mecanismos pelos quais acredita que sistemas de IA poderiam levar à extinção, mas sua declaração funcionou como um catalisador para uma conversa mais ampla sobre responsabilidade corporativa.

A postagem de Hubinger era uma resposta a Jacob Coxon, pesquisador que recentemente deixou a Anthropic e também trabalhou na OpenAI. Coxon havia escrito que nenhuma das duas empresas estava agindo de forma responsável. Ele descreveu um futuro próximo em que sistemas de IA superariam os humanos em capacidade, capazes de invadir qualquer coisa, revolucionar setores inteiros da noite para o dia e adquirir poder e recursos reais. A Anthropic se recusou a comentar as publicações de seus funcionários.

A reação de especialistas foi mista e reveladora. Dame Wendy Hall, cientista da computação que assessora a ONU sobre IA, disse à BBC que ficou chocada com as declarações. Mas ela também levantou uma questão incômoda: parte disso poderia ser relações públicas e marketing, especialmente considerando que tanto Anthropic quanto OpenAI estão se preparando para estreias no mercado de ações. Mesmo assim, Hall foi clara: se esse fosse realmente o sistema de valores de uma empresa, ela pediria aos investidores que não investissem nela.

A situação ganhou dimensão política quando Darren Jones, ex-secretário-chefe do Tesouro britânico, escreveu uma carta aberta ao primeiro-ministro Andy Burnham pedindo um novo tratado multinacional para o desenvolvimento seguro da IA. Jones argumentou que os governos precisavam colaborar na definição de como deveria ser um tratado baseado no desenvolvimento da superinteligência. Ele alertou que, a menos que os governos levassem esses avisos a sério e agissem, o ritmo do desenvolvimento poderia fazer com que enfrentassem problemas antes mesmo de começarem a avaliar se a questão era relevante.

O trabalho de Hubinger se concentra em alinhamento de IA — a tentativa de incorporar à tecnologia ideias e princípios éticos humanos, mantendo-a alinhada ao que os seres humanos valorizam. Muitos pesquisadores destacados dizem que essas tentativas parecem estar fracassando. No verão de 2026, houve uma série de incidentes em que agentes de IA — sistemas autorizados a operar de forma autônoma — realizaram ataques cibernéticos. OpenAI, Anthropic e Meta divulgaram ataques realizados por suas próprias ferramentas de IA. Em seu relatório de segurança de agosto, a Anthropic reconheceu estar menos confiante em suas avaliações anteriores sobre o risco de desalinhamento e sobre a capacidade de uma IA altamente capaz realizar pesquisa e desenvolvimento automatizados que pudesse provocar danos catastróficos.

O alerta de Hubinger não é isolado. Líderes da OpenAI, Google DeepMind e Anthropic já haviam feito avisos semelhantes em 2023. Uma carta aberta assinada por 1,3 mil funcionários de empresas de IA pediu ao governo dos Estados Unidos que apoiasse um esforço internacional para desacelerar deliberadamente o desenvolvimento de IA de fronteira. Separadamente, o Financial Times informou que a Anthropic reteve seu modelo mais recente do Instituto de Segurança de IA do Reino Unido, um dos principais órgãos do mundo na avaliação dos riscos da IA. Um porta-voz do Cabinet Office britânico não confirmou se o modelo havia sido retido, mas disse que o instituto continua colaborando estreitamente com parceiros do setor, incluindo a Anthropic, para tornar os modelos mais seguros.