Modelos de IA de lenguaje genómico crearon virus completos inexistentes en la naturaleza, demostrando que la tecnología puede originar patógenos de forma autónoma. Los autores aplicaron estrictas medidas de seguridad, pero advierten que extender la técnica a virus que infecten células animales requeriría revisión exhaustiva y gobernanza más rigurosa.
Investigadores crean virus con IA y disparan alertas sobre bioseguridad
La capacidad existe; la gobernanza aún no
¿Por qué estos investigadores decidieron hacer público exactamente lo que hicieron si sabían que podría inspirar a otros a hacer cosas peligrosas?
Porque ocultarlo habría sido peor. La comunidad científica ya sabía que esto era posible. Publicar en Science, con todos los detalles de seguridad incluidos, fue una forma de forzar la conversación sobre gobernanza antes de que alguien lo hiciera sin controles.
Pero dijeron que excluyeron deliberadamente los virus que atacan células de sus datos de entrenamiento. ¿Eso no hace que sea más difícil para alguien malintencionado?
Más difícil, sí. Pero no imposible. Alguien con suficiente conocimiento podría entrenar sus propios modelos con datos diferentes. Lo que realmente los preocupa es que la infraestructura computacional se está democratizando. Hace cinco años, esto requería recursos de una universidad de élite. En cinco años más, podría estar al alcance de laboratorios mediocres.
¿Entonces el problema no es la IA en sí, sino quién tiene acceso a ella?
Exactamente. Y la gobernanza. Existen regulaciones para trabajar con patógenos peligrosos en laboratorios físicos. Pero ¿quién supervisa lo que alguien diseña en una computadora antes de que lo sintetice? Ese es el vacío que mantiene despiertos a los expertos en bioseguridad.
Uno de los expertos mencionados dijo que el peligro podría ser menor porque cada virus debe testearse uno por uno. ¿Eso es realmente tranquilizador?
Es un freno, no una solución. Sí, ralentiza las cosas. Pero si alguien está dispuesto a invertir tiempo y recursos, sigue siendo posible. Lo que ese experto estaba diciendo es que no es como un modelo de lenguaje tradicional donde puedes generar miles de variantes instantáneamente. Pero eso es un consuelo frágil.
¿Cuál es el escenario que más asusta a estos investigadores?
Un virus diseñado para atacar un tipo celular específico o incluso un grupo de población específico. No es ciencia ficción. Es biología. Y si la IA puede diseñar virus que funcionen, ¿por qué no podría diseñar uno con esa especificidad? Eso es lo que mantiene a los expertos en bioseguridad trabajando en marcos de gobernanza que aún no existen.
O Pulso
- Investigadores de Stanford crearon 16 virus bacteriófagos sintéticos usando modelos de IA Evo 1 y Evo 2
- Los autores advierten que extender la técnica a virus que infecten células animales requeriría gobernanza mucho más rigurosa
- No existe gobernanza internacional establecida para supervisar el diseño de genomas virales con IA generativa
- La creciente accesibilidad a infraestructura computacional aumenta riesgos de uso malintencionado
Modelos de IA de lenguaje genómico crearon virus completos inexistentes en la naturaleza, demostrando que la tecnología puede originar patógenos de forma autónoma. Los autores aplicaron estrictas medidas de seguridad, pero advierten que extender la técnica a virus que infecten células animales requeriría revisión exhaustiva y gobernanza más rigurosa.
Investigadores de Stanford utilizaron IA para crear 16 virus bacteriófagos sintéticos, generando preocupaciones sobre la capacidad de diseñar patógenos peligrosos y la necesidad urgente de gobernanza en bioseguridad.
Hace dos semanas, la revista Science publicó un trabajo que cambió la conversación sobre lo que la inteligencia artificial puede hacer. Investigadores de la Universidad de Stanford utilizaron dos modelos de IA especializados en lenguaje genómico —llamados Evo 1 y Evo 2— para diseñar los genomas completos de dieciséis virus nuevos, nunca vistos en la naturaleza, capaces de atacar con precisión a la bacteria Escherichia coli C. El logro científico es notable. Lo que dispara las alarmas es que una máquina acaba de demostrar que puede crear patógenos que no existen.
Los investigadores fueron cuidadosos. Crearon bacteriófagos, virus que atacan solo bacterias y no células animales. Trabajaron dentro de cabinas de bioseguridad con equipo de protección personal adecuado. Esterilizaban periódicamente con etanol al setenta por ciento, lejía al diez por ciento y radiación ultravioleta. Eliminaron todos los residuos como material peligroso. Nada salió del laboratorio. Pero en su propio análisis complementario, los autores reconocieron algo inquietante: si aplicaran el mismo método para diseñar virus capaces de infectar células en lugar de bacterias, los nuevos patógenos "podrían ser viables a una escala similar". Por esa razón, advirtieron que un trabajo de esa naturaleza "solo debería llevarse a cabo tras una revisión minuciosa y deliberaciones con otros investigadores y expertos en bioseguridad, biocontención y bioprotección".
La precaución fue más allá. Los autores excluyeron deliberadamente de los datos de entrenamiento de sus modelos todos los virus susceptibles de atacar células, incluidos los patógenos humanos. Consultaron con expertos en bioseguridad antes de proceder. Sabían que si hubieran trabajado con virus capaces de contagiar animales, habrían necesitado protocolos de biocontención mucho más estrictos y cumplimiento de normativa gubernamental estadounidense significativamente más rigurosa. Hicieron todo bien. Y aun así, los propios autores admiten que "la creciente accesibilidad a dicha infraestructura hace que los casos de uso malintencionado sean cada vez más posibles".
Esta es la verdadera preocupación. Acceder a los datos y recursos computacionales necesarios no es sencillo, pero se está volviendo más accesible. Víctor de Lorenzo, profesor de investigación del CSIC en el Centro Nacional de Biotecnología, señaló que extender esta estrategia al diseño de virus que ataquen células abriría oportunidades legítimas —virus oncolíticos altamente específicos contra células cancerosas, por ejemplo— pero también "escenarios preocupantes, como la creación de virus con afinidad selectiva por determinados tipos celulares, tejidos o incluso grupos de población". Jordi García-Ojalvo, catedrático de Biología de Sistemas en la Universitat Pompeu Fabra, matizó que el sistema aún es ineficiente: obtuvieron solo dieciséis virus entre trescientos genomas diseñados, y cada uno debe testearse en el laboratorio uno por uno. El peligro, dijo, es menor que en otros modelos de IA tradicionales.
Pero la verdadera brecha está en otro lugar. Science publicó un tercer artículo de Thomas V. Inglesby y Moritz S. Hanke observando que "la capacidad de componer genomas virales utilizando IA generativa ya existe; sin embargo, aún no existe la gobernanza necesaria para gestionarla de forma segura". Aunque existen regulaciones sobre bioseguridad, la genómica generativa las rompe porque las alteraciones genéticas que crea son impredecibles. La pregunta que plantean es fundamental: ¿puede la sociedad establecer un sistema de supervisión que permita aprovechar los beneficios mientras evita daños graves? Por ahora, no hay respuesta clara. Los investigadores de Stanford hicieron su trabajo con responsabilidad. Pero saben que otros vendrán después, con menos escrúpulos, con acceso a herramientas cada vez más simples de usar, en lugares donde la supervisión es débil o inexistente. La bioseguridad necesita prepararse para una capacidad tecnocientífica que ya existe y solo se volverá más accesible.
Citações Notáveis
La capacidad de componer genomas virales utilizando IA generativa ya existe; sin embargo, aún no existe la gobernanza necesaria para gestionarla de forma segura— Thomas V. Inglesby y Moritz S. Hanke, Science
Si se extendiera esta estrategia al diseño de virus que ataquen células, surgirían escenarios preocupantes, como la creación de virus con afinidad selectiva por determinados tipos celulares, tejidos o incluso grupos de población— Víctor de Lorenzo, CSIC Centro Nacional de Biotecnología