Em um momento em que a inteligência artificial avança mais rápido do que os mecanismos humanos de controle, um relatório interno da Anthropic revela que governos de quatro países — Rússia, China, Irã e Iêmen — utilizaram o modelo Claude para fins que vão da desinformação eleitoral à vigilância de dissidentes e à pesquisa potencial de armas biológicas. A empresa identificou e bloqueou parte desses usos, mas a própria dificuldade de distinguir ciência legítima de engenharia de patógenos expõe os limites do que qualquer criador de IA pode, de fato, controlar. O episódio não é apenas um alerta sob
Anthropic identifica uso de sua IA por países em propaganda e pesquisa de armas biológicas
Correndo em direção a uma superinteligência enquanto apostam com nossas vidas
Mark
Como a Anthropic descobriu esses usos maliciosos? Eles estavam monitorando ativamente, ou alguém denunciou?
Mimi
O relatório não deixa isso claro. Sabemos que descobriram e documentaram, mas o mecanismo exato — se foi detecção automática, análise de padrões de uso, ou denúncia — não está no documento que o Times acessou.
Luke
Isso é importante. Se foi descoberta passiva, significa que muita coisa pode estar passando despercebida. Se foi ativa, precisamos saber como eles fazem isso e por que não conseguem pegar tudo.
Mark
E quanto às pesquisas de armas biológicas? Eles realmente bloquearam pessoas, ou só suspeitam que isso poderia ter acontecido?
Mimi
Eles bloquearam. A Anthropic interrompeu o serviço em casos onde havia dúvida. Mas aqui está o problema: não sabemos quantos casos, quem eram, ou qual era o contexto real.
Luke
Exatamente. "Bloqueamos por precaução" é diferente de "bloqueamos porque confirmamos intenção maliciosa". A empresa está sendo vaga propositalmente, e não podemos verificar se a precaução foi justificada ou excessiva.
Mark
Por que a Anthropic não divulga esses detalhes?
Mimi
Eles argumentariam que é segurança operacional — revelar nomes, instituições e agentes biológicos específicos poderia expor métodos de detecção ou colocar pesquisadores em risco.
Luke
Mas também significa que não há accountability real. Nós temos que confiar que a empresa fez a coisa certa, sem poder verificar. E dado o histórico de empresas de tech com transparência, isso é um problema.
Mark
O que Jacob Coxon estava tentando dizer com "brincando com as nossas vidas"?
Mimi
Que as empresas estão desenvolvendo sistemas cada vez mais poderosos sem ter certeza de que conseguem controlá-los. E enquanto isso, esses sistemas já estão sendo usados por governos para propaganda, vigilância e potencialmente armas.
Luke
Mas Coxon trabalhou em pré-treinamento, não em segurança ou contenção. Sua perspectiva é válida, mas ele não estava dentro das decisões sobre como mitigar esses riscos. Não sabemos se a Anthropic tem equipes trabalhando exatamente nisso.
Der Puls
- Rússia fabricou reportagens falsas com o auxílio do Claude para manipular eleições na Moldávia, enquanto China e Irã usaram a plataforma para rastrear opositores políticos no exílio.
- O ponto mais alarmante do relatório é a pesquisa biológica bloqueada: a Anthropic não conseguiu distinguir entre ciência médica legítima e desenvolvimento de patógenos perigosos, e optou pelo silêncio total sobre os casos.
- Especialistas alertam que modelos de IA avançados podem acelerar a criação de organismos biológicos inteiramente novos — uma ameaça que os próprios criadores admitem não saber se conseguirão conter.
- Jacob Coxon, ex-funcionário da Anthropic, acusou publicamente a empresa e a OpenAI de 'brincar com as nossas vidas' ao correr em direção a uma superinteligência sem garantias reais de controle.
- O relatório foi mantido em sigilo pela Anthropic e só veio a público por meio do acesso do New York Times, revelando uma tensão entre transparência e gestão de riscos reputacionais e geopolíticos.
Em um momento em que a inteligência artificial avança mais rápido do que os mecanismos humanos de controle, um relatório interno da Anthropic revela que governos de quatro países — Rússia, China, Irã e Iêmen — utilizaram o modelo Claude para fins que vão da desinformação eleitoral à vigilância de dissidentes e à pesquisa potencial de armas biológicas. A empresa identificou e bloqueou parte desses usos, mas a própria dificuldade de distinguir ciência legítima de engenharia de patógenos expõe os limites do que qualquer criador de IA pode, de fato, controlar. O episódio não é apenas um alerta sobre atores maliciosos — é um espelho sobre a velocidade com que ferramentas poderosas escapam das intenções de quem as fabrica.
Um relatório interno da Anthropic, obtido pelo New York Times, documenta que governos de pelo menos quatro países — Rússia, China, Irã e Iêmen — utilizaram o modelo de IA Claude para fins maliciosos. A empresa identificou os abusos, registrou-os e, em vários casos, interrompeu o acesso dos responsáveis.
O caso mais concreto envolve a Rússia, que usou o Claude para produzir propaganda disfarçada de jornalismo genuíno, com o objetivo de influenciar as eleições na Moldávia. China e Irã, por sua vez, empregaram a plataforma para monitorar opositores políticos vivendo no exílio — uma forma de vigilância estatal potencializada por inteligência artificial.
O trecho mais delicado do relatório diz respeito a pesquisas biológicas de natureza ambígua. A Anthropic se viu diante de um dilema sem solução simples: os mesmos processos científicos que geram vacinas e avanços médicos podem ser usados para engenharia de patógenos. A empresa optou pela precaução e bloqueou os acessos suspeitos, mas manteve sigilo absoluto — sem revelar nomes, instituições, países ou os agentes biológicos envolvidos.
Especialistas ouvidos pelo Times descrevem o risco em termos graves: modelos de IA avançados podem acelerar o desenvolvimento de patógenos conhecidos ou até de organismos completamente novos. A ironia é que a tecnologia evolui tão rapidamente que até seus criadores admitem incerteza sobre a capacidade humana de controlá-la.
Esse cenário ganha contornos ainda mais tensos com a saída de Jacob Coxon, britânico de 27 anos que trabalhou três anos na Anthropic no departamento de pré-treinamento. Em postagem pública, Coxon acusou tanto a Anthropic quanto a OpenAI de negligência grave, afirmando que ambas correm em direção a uma superinteligência capaz de se aprimorar sozinha enquanto apostam com as vidas de bilhões de pessoas. O relatório agora torna visível essa contradição central: a empresa consegue identificar alguns abusos, mas opera em um terreno onde as ameaças potenciais já superam sua capacidade de antecipá-las.
Um relatório interno da Anthropic, ao qual o jornal The New York Times teve acesso, documenta um padrão perturbador: governos de pelo menos quatro países — Rússia, China, Irã e Iêmen — utilizaram o modelo de IA Claude da empresa para fins que vão desde campanhas de desinformação até pesquisa potencial de armas biológicas. O documento revela não apenas que esses abusos ocorreram, mas que a empresa descobriu-os, documentou-os e, em muitos casos, interrompeu o acesso.
O caso mais concreto envolve a Rússia, que aproveitou o Claude para fabricar propaganda disfarçada de reportagens jornalísticas genuínas, direcionando esse conteúdo falso para influenciar as eleições na Moldávia, país vizinho. Simultaneamente, tanto a China quanto o Irã utilizaram a plataforma para monitorar e rastrear opositores políticos que vivem no exílio — um uso que aponta para vigilância estatal sofisticada apoiada por tecnologia de IA.
O aspecto mais delicado do relatório envolve pesquisas de biologia que poderiam estar relacionadas ao desenvolvimento de armas biológicas. A Anthropic enfrentou um dilema fundamental: os mesmos processos científicos que permitem criar vacinas e avanços médicos legítimos podem também ser utilizados para engenharia de patógenos perigosos. Diante dessa ambiguidade, a empresa optou pela precaução, interrompendo o serviço em casos onde havia dúvida sobre as intenções reais dos pesquisadores. Porém, a Anthropic manteve sigilo total sobre esses bloqueios — não divulgou nomes de pesquisadores, instituições, países de origem ou quais agentes biológicos específicos estavam em questão.
Especialistas citados pela reportagem do Times descrevem o risco em termos alarmantes. O potencial de modelos de IA avançados para acelerar o desenvolvimento de patógenos biológicos — tanto aqueles já conhecidos quanto organismos completamente novos — figura entre as preocupações mais graves da comunidade científica. A ironia é cortante: a tecnologia evolui tão rapidamente que até mesmo seus principais criadores admitem dúvidas sobre se os seres humanos conseguirão controlá-la plenamente.
Essa revelação chega em um momento em que a Anthropic já enfrenta críticas internas. Jacob Coxon, um britânico de 27 anos que trabalhou três anos na empresa no departamento de pré-treinamento — a fase em que modelos de IA absorvem e processam enormes volumes de informação — saiu da companhia e acusou tanto a Anthropic quanto sua rival OpenAI de negligência grave. Em postagem na rede social X, Coxon afirmou que nenhuma das duas empresas está agindo de forma responsável, e que ambas estão correndo em direção a uma superinteligência capaz de se aprimorar a si mesma enquanto apostam com as vidas de bilhões de pessoas. Suas palavras — "brincando com as nossas vidas" — capturam uma tensão que o relatório da Anthropic agora torna visível: a empresa consegue identificar e bloquear alguns abusos, mas opera em um terreno onde as ameaças potenciais superam claramente sua capacidade de prever ou controlar todos os usos.
Bemerkenswerte Zitate
Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas.— Jacob Coxon, ex-funcionário da Anthropic
O potencial de modelos de IA de ponta para facilitar o desenvolvimento de patógenos biológicos conhecidos ou totalmente novos figura entre as mais graves preocupações de especialistas.— The New York Times, citando especialistas
Möchten Sie die ganze Geschichte?
Das Original lesen bei G1 ↗
Technology