Anthropic bloqueia tentativas de usar IA para desenvolver armas biológicas

A Anthropic divulgou na quinta-feira um relatório que descreve uma realidade incômoda: pessoas estão tentando usar seus modelos de inteligência artificial para desenvolver armas biológicas, e algumas delas estão sendo criativas o suficiente para contornar as proteções que a empresa construiu.

Em 30 dias de monitoramento, a empresa identificou cerca de 35 esforços de pesquisa distintos com atividades potencialmente preocupantes. Cinco desses casos foram documentados em detalhe no relatório. Um envolvia alguém pedindo ajuda para redigir uma proposta de financiamento para pesquisa de ganho de função sobre o chikungunya — basicamente, como tornar um vírus mais transmissível e capaz de escapar do sistema imunológico. Outro caso descrevia um pesquisador fora dos EUA usando Claude para trabalhar em adaptação de gripe aviária em mamíferos. Havia também consultas sobre ortopoxvírus, o grupo que inclui o vírus da varíola, e sobre toxinas de veneno. Os usuários não apenas faziam essas perguntas; estavam contornando controles de acesso geográfico, obscurecendo o propósito de suas pesquisas e tentando burlar as salvaguardas da empresa.

O que torna isso particularmente perturbador é que a Anthropic não consegue determinar com certeza se essas pessoas pretendiam causar danos ou se estavam conduzindo pesquisa científica legítima. A empresa identificou os indivíduos como cientistas atuantes, mas não revelou as instituições de pesquisa ou os países envolvidos. Essa incerteza é importante: ela sugere que a linha entre pesquisa legítima e desenvolvimento de armas é mais borrada do que gostaríamos de acreditar.

O relatório contém uma frase que resume o problema central: "Ataques sofisticados não exigem mais atacantes sofisticados." A inteligência artificial eliminou a lacuna de mão de obra e ferramentas que antes separava operações bem financiadas e patrocinadas por Estados de operadores individuais. Isso significa que a complexidade técnica de desenvolver uma arma biológica deixou de ser um obstáculo significativo. Um indivíduo com acesso a um modelo de IA poderoso agora pode fazer o que antes exigia recursos de um laboratório estatal.

A Anthropic também documentou tentativas de usar seus modelos para vigilância, golpes e desenvolvimento de armas convencionais. O relatório descreve operadores suspeitos de terem ligações com o governo chinês usando Claude para vigiar e atacar minorias uigures em Xinjiang, bem como comunidades religiosas em toda a Ásia. Houve também tentativas de empresas chinesas como a DeepSeek de redirecionar secretamente solicitações de usuários para Claude. Grupos baseados no norte do Iêmen — aparentemente rebeldes houthis apoiados pelo Irã — usaram Claude para desenvolver software de orientação para sistemas de mísseis.

A empresa afirma que seus modelos mais recentes, incluindo o Claude Fable 5, possuem salvaguardas mais rígidas que restringem o acesso a consultas de pesquisa biológica de dupla utilização. Há evidências de que essas medidas estão funcionando. Mas a Anthropic reconhece que sistemas de segurança ainda mais robustos serão necessários à medida que os modelos se tornarem mais capazes e as ameaças mais sofisticadas.

Esse relatório chega em um momento em que funcionários de empresas de IA estão levantando alarmes sobre a velocidade do desenvolvimento. Jacob Coxon, ex-funcionário da Anthropic de 27 anos, disse à CNN que as pessoas desenvolvendo IA acreditam sinceramente que ela poderia nos matar a todos até o final da década. Em julho, quase 1.400 funcionários de empresas de IA assinaram uma carta aberta pedindo ao governo dos EUA que regulamente a tecnologia. O cientista-chefe da OpenAI alertou que as capacidades da IA estão avançando mais rápido do que a capacidade dos pesquisadores de monitorá-las e controlá-las de forma confiável.

Por enquanto, a indústria permanece amplamente autorregulada. O governo Trump trabalhou para minar regulamentações estaduais sobre IA, e o Congresso se mostrou relutante em controlar a tecnologia. A Anthropic afirmou que acredita que o mundo se beneficiaria se a indústria adotasse uma forma legal e verificável de trabalhar em conjunto para definir o ritmo de lançamento de modelos robustos. Mas essa é uma esperança, não uma garantia. Conforme esses modelos se tornam cada vez mais capazes, aproximando-se ou superando o desempenho de especialistas em tarefas científicas complexas, o potencial para uso indevido só aumenta — e a capacidade de detectar e bloquear essas tentativas pode não acompanhar.