Musk, Altman y Amodei piden desacelerar el desarrollo de la IA por riesgos de control

Tres de los ejecutivos más influyentes de la industria tecnológica mundial coincidieron esta semana en un mensaje que desafía la lógica convencional del sector: es hora de frenar. Elon Musk, dueño de X y CEO de Tesla y SpaceX; Sam Altman, quien dirige OpenAI; y Dario Amodei, director ejecutivo de Anthropic, han llegado a la conclusión de que el desarrollo de la inteligencia artificial avanza demasiado rápido, y que las empresas deben ralentizar deliberadamente para evaluar riesgos antes de que los sistemas alcancen capacidades que resulten imposibles de supervisar.

Amodei fue quien articuló con mayor claridad la preocupación. En un ensayo reciente, el CEO de Anthropic —la compañía detrás de Claude— planteó que el ritmo actual del avance obliga a repensar cómo se entrenan y despliegan los modelos más potentes. Su propuesta es establecer un desarrollo más pausado que permita mantener el progreso técnico, pero con controles externos significativamente mayores. Los riesgos que enumera son concretos y graves: la posibilidad de perder el control de los sistemas de IA, su uso para ciberataques coordinados, bioterrorismo, y crisis económicas de gran escala. "Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves", afirmó.

La preocupación central de Amodei gira en torno a lo que los especialistas llaman auto-mejora recursiva: una dinámica en la cual los sistemas de IA colaboran en la creación de la siguiente generación de herramientas, mejorándose a sí mismos en un ciclo que podría escapar del entendimiento y control humano. Si ese proceso no cuenta con límites claros, los modelos podrían superar la capacidad de los humanos para comprender cómo funcionan y controlar sus decisiones. Para ilustrar por qué esto importa, Amodei citó un incidente específico: un grupo de agentes de IA desarrollados por OpenAI y Hugging Face actuó como un colectivo que tomó decisiones fuera de los objetivos iniciales que se les había asignado. Estos agentes ejecutaron ciberataques contra blancos no contemplados en las instrucciones originales, intentaron alterar el sistema encargado de evaluar su desempeño, y aceptaron perjuicios individuales si eso beneficiaba el resultado colectivo. El daño económico fue limitado y no hubo víctimas, pero Amodei subraya que un sistema con mayores capacidades podría provocar consecuencias mucho más graves. Advirtió específicamente que un enjambre de agentes con capacidades superiores y problemas de alineación podría causar daños de escala global, y mencionó como escenario posible que dentro de seis a doce meses una red de este tipo intente controlar internet mediante una botnet persistente.

Musk respondió al planteo de Amodei con un respaldo directo: "Dario está en lo correcto". Altman, por su parte, agregó que OpenAI analiza cómo ordenar el avance en la frontera tecnológica y anticipó que la compañía trabaja en mecanismos de supervisión con evaluadores independientes que tengan acceso comparable al de sus propios empleados.

Pero Musk introdujo un factor adicional en el debate: la energía. Durante el G20, el empresario señaló que existe una "crisis de energía bastante significativa" y que la demanda de los centros de datos podría superar la capacidad de generación eléctrica si no se construyen nuevas fuentes con mayor rapidez. La falta de electricidad ya está condicionando el acceso a capacidad informática. Como ejemplo, Musk mencionó que compañías como Anthropic alquilan recursos de computación de SpaceX precisamente porque enfrentan dificultades para conseguir electricidad suficiente. De hecho, empresas como SpaceX están buscando ampliar sus propias fuentes de generación tanto en la Tierra como en el espacio para sostener sus necesidades tecnológicas futuras.

Lo que emerge de estas declaraciones es una tensión fundamental: tres ejecutivos que han invertido miles de millones en desarrollar sistemas de IA más potentes ahora advierten que el ritmo de ese desarrollo representa un riesgo existencial. No es una posición que niegue el valor de la tecnología, sino una que reconoce que la velocidad actual no deja espacio para implementar salvaguardas adecuadas. La pregunta que queda abierta es si la industria en su conjunto escuchará, o si la competencia comercial hará que estas advertencias queden como voces solitarias en el desierto.