Anthropic bloquea cuentas que intentaron usar Claude para investigaciones de armas biológicas

Anthropic anunció esta semana que había detectado y bloqueado varias cuentas de usuarios que intentaban utilizar Claude, su modelo de inteligencia artificial, para investigaciones que podrían facilitar el desarrollo de armas biológicas. La compañía publicó un informe de inteligencia de amenazas en el que documentó cinco casos específicos de mal uso potencial, ocurridos entre diciembre de 2025 y agosto de 2026, en los que investigadores emplearon o intentaron emplear la plataforma para tareas de biología de alto riesgo.

Lo que distingue estos intentos es la sofisticación con la que algunos usuarios trataron de evadir los controles de seguridad de Anthropic. Según el reporte, ciertos actores accedieron desde regiones no autorizadas utilizando intermediarios o infraestructura de terceros. Otros ocultaron deliberadamente el propósito real de sus investigaciones o fragmentaron sus consultas en múltiples sesiones, esperando que los sistemas de detección automática no identificaran el patrón completo de lo que estaban buscando. La empresa no reveló la identidad de los investigadores, las instituciones involucradas ni los países de origen, pero dejó claro que la evasión de controles fue intencional y coordinada.

Los cinco casos que activaron las alarmas de seguridad abarcaban un espectro preocupante de investigaciones biológicas. En uno, investigadores de una región no autorizada utilizaron una plataforma intermediaria para acceder a Claude y trabajar en una propuesta relacionada con un virus transmitido por mosquitos. En otro, un investigador pasó semanas planificando experimentos sobre gripe aviar, aunque los filtros de Anthropic limitaron su acceso a versiones menos potentes del modelo. Un tercer caso involucró a un intermediario que permitió a múltiples usuarios utilizar Claude para redactar una solicitud de financiamiento vinculada a una familia de virus que incluye enfermedades como viruela y mpox. Los dos casos restantes se relacionaron con investigaciones sobre venenos, toxinas y rediseño computacional de moléculas que podrían tener aplicaciones tanto terapéuticas como dañinas.

Anthropicreconoce en su informe una realidad incómoda: la biología de doble uso existe en una zona gris. La misma información que permite desarrollar vacunas o tratamientos médicos puede servir para crear patógenos más letales o sustancias tóxicas. Por eso la empresa fue cuidadosa al aclarar que no afirma que todos los investigadores identificados tuvieran intención deliberada de causar daño. Lo que sí quedó establecido es que la detección de estos usos problemáticos fue posible, pero que también reveló las limitaciones de los clasificadores automáticos para identificar consultas avanzadas de biología de doble uso.

Tras investigar estos casos, Anthropic bloqueó las cuentas asociadas e incorporó los hallazgos a sus procesos de seguridad y monitoreo. En algunos casos, sus sistemas de seguridad ya habían impedido el acceso a modelos más potentes o bloqueado solicitudes de mayor riesgo. Pero la compañía reconoce que conforme sus modelos de IA se vuelven más capaces y versátiles, también crece la posibilidad de que sean utilizados por investigadores con intenciones ambiguas, grupos estatales, actores criminales o personas cuyas motivaciones no son claras. El informe sugiere que esta tensión entre capacidad y seguridad seguirá siendo uno de los desafíos centrales de la industria de la IA en los próximos años.