Anthropic frustra complots que usaban IA para desarrollar armas biológicas

Anthropic ha detectado y bloqueado múltiples intentos de uso indebido de sus modelos de inteligencia artificial para investigaciones que podrían haber conducido al desarrollo de armas biológicas. La empresa de seguridad de IA identificó estos complots durante los últimos ocho meses en operaciones que involucraban a actores en China, Rusia, Yemen e Irán. En algunos casos, grupos vinculados al régimen iraní utilizaron los sistemas de Anthropic, incluido el chatbot Claude, para planificar operaciones de vigilancia y posibles ataques contra objetivos estadounidenses, además de coordinar campañas de propaganda.

El descubrimiento pone de relieve una preocupación creciente en el sector tecnológico: el uso dual de la inteligencia artificial. Los mismos modelos que pueden acelerar investigaciones científicas legítimas en biología también pueden ser desviados hacia fines destructivos. Anthropic ha respondido desarrollando sistemas de detección diseñados para identificar y bloquear usos potencialmente peligrosos de sus modelos antes de que causen daño.

La tensión sobre estos riesgos se intensificó esta semana cuando Jacob Coxon, exempleado tanto de Anthropic como de OpenAI, acusó a ambas empresas de "jugar" con las vidas de las personas. Eva Hubinger, responsable de Ciencia de Alineamiento en Anthropic, respondió con una declaración inquietante: la inteligencia artificial podría aniquilar a toda la humanidad. Según Hubinger, existe actualmente una probabilidad del 10 por ciento de que ocurra una catástrofe generada por IA que afecte a la humanidad en la próxima década.

Geoffrey Hinton, ganador del Premio Nobel y figura central en la historia de la inteligencia artificial, respalda esta estimación en términos generales. En una entrevista con la BBC, Hinton señaló que un 10 por ciento no le parece una estimación descabellada para la posibilidad de que la IA acabe con toda la humanidad. Sin embargo, advirtió contra la falsa precisión: afirmar una probabilidad concreta sería una insensatez porque nadie sabe realmente cómo calcularla.

Lo que preocupa profundamente a Hinton es que la humanidad nunca ha creado seres que pronto podrían ser más inteligentes que nosotros. Una vez que eso es posible, los riesgos se multiplican exponencialmente. Si una IA fuera significativamente más inteligente que los humanos, tendría innumerables formas de causar daño. No necesitaría actuar en el mundo físico para provocar estragos; podría sembrar caos absoluto simplemente interactuando con las personas. Pero también podría diseñar virus biológicos y ciberataques devastadores. Hinton enumera las posibilidades con una frialdad que subraya la magnitud del riesgo: si una IA superinteligente quisiera deshacerse de la humanidad, tendría formas prácticamente ilimitadas de hacerlo.

Esta realidad ha llevado a Hinton a una conclusión sobre dónde debe enfocarse la investigación: no en si la IA puede matarnos, sino en cómo diseñarla para que no quiera hacerlo. Es una pregunta que va al corazón de lo que significa construir sistemas de inteligencia artificial seguros en un mundo donde esos sistemas podrían pronto superarnos en capacidad cognitiva. Los esfuerzos de Anthropic para detectar y bloquear usos maliciosos son un paso en esa dirección, pero el desafío más profundo permanece sin resolver.