CEO de Anthropic advierte: la IA podría esclavizar a la humanidad en 1-5 años

Dario Amodei, el director ejecutivo de Anthropic, ha publicado un ensayo de treinta y ocho páginas que plantea una pregunta incómoda: ¿qué sucede cuando la tecnología avanza más rápido que la capacidad de las instituciones para gobernarla? En «La adolescencia de la tecnología: Confrontar y superar los riesgos de la IA avanzada», Amodei sostiene que la humanidad ha llegado a un punto de quiebre histórico donde el poder de la inteligencia artificial crece exponencialmente, pero los mecanismos de control permanecen rezagados. La advertencia no proviene de un crítico externo, sino del interior del ecosistema que está construyendo esta tecnología.

Anthropicdesarrolla Claude, uno de los modelos de lenguaje más sofisticados disponibles en el mercado. La empresa ha experimentado un crecimiento vertiginoso: pasó de cien millones de dólares en ingresos en 2023 a mil millones en 2024, con proyecciones de diez mil millones para 2025. Desde esta posición privilegiada, Amodei identifica un problema estructural que considera irresoluble mediante la autorregulación voluntaria. Ningún actor individual —empresa, gobierno o laboratorio— puede detenerse en la carrera por la inteligencia artificial sin quedarse rezagado. Los incentivos económicos, geopolíticos y militares son demasiado poderosos para permitir que alguien se retire del juego.

Las predicciones de Amodei son específicas y alarmantes. Durante el Foro Económico Mundial de Davos, advirtió que la inteligencia artificial podría superar las capacidades humanas en un horizonte de entre uno y cinco años. Ese mismo ensayo sugiere que sistemas de IA que se auto-mejoran podrían estar disponibles en apenas uno o dos años. Los riesgos que enumera incluyen la esclavitud y la «destrucción masiva» de la humanidad. Aunque estas frases suenan apocalípticas, Amodei las ancla en consecuencias laborales concretas y medibles.

Predice que la IA podría eliminar hasta la mitad de los empleos administrativos de nivel inicial en el corto plazo. Pero el impacto no se limitará a puestos de entrada. Sectores considerados relativamente seguros —derecho, programación, finanzas— enfrentarán transformaciones radicales. En particular, Amodei sostiene que la IA podría realizar la mayoría del trabajo de ingeniería de software en un horizonte de seis a doce meses. Esta transformación ya es observable dentro de Anthropic: los ingenieros de la empresa ya no escriben código desde cero, sino que editan lo que genera el modelo. El futuro que describe no es especulativo; es una extrapolación de lo que ya está sucediendo en los laboratorios.

Frente a este panorama, Amodei propone un conjunto de soluciones que él mismo califica como «aburridas pero efectivas». Incluyen leyes de transparencia, controles a la exportación de chips, obligaciones de divulgación sobre el comportamiento de los modelos, e intervenciones normativas incrementales diseñadas para comprar tiempo institucional sin congelar el progreso tecnológico. Advierte explícitamente contra regulaciones grandilocuentes que pudieran generar rechazo o lo que llama «teatro de seguridad»—medidas que parecen rigurosas pero que en realidad no abordan los problemas reales.

Lo que hace particularmente significativa esta advertencia es su origen. Amodei no es un tecnófobo marginal ni un académico sin poder de influencia. Es el líder de una de las empresas más valiosas y de más rápido crecimiento en el sector de la inteligencia artificial. Su ensayo y sus declaraciones públicas representan una de las advertencias más contundentes sobre los riesgos inherentes a la IA, precisamente porque provienen de alguien que está impulsando activamente la tecnología. Amodei enfatiza que si no se invierten recursos en programas de reentrenamiento laboral ahora mismo, la humanidad enfrentará una seria inestabilidad social. La pregunta que queda sin respuesta es si las instituciones pueden actuar con la velocidad y la decisión que él considera necesarias.