Código rojo en la IA: Altman y Amodei frenan la carrera mientras Trump minimiza riesgos

En una semana que parece contener meses de transformación, los líderes de las mayores empresas de inteligencia artificial del mundo han pisado el freno. Dario Amodei, quien dirige Anthropic, publicó un ensayo el sábado pidiendo una desaceleración sustancial en el desarrollo de modelos de IA. Pocas horas después, Sam Altman, al frente de OpenAI, anunció que su empresa pospondría su salida a bolsa, una operación que habría valorado la compañía en más de un billón de dólares. A ellos se sumaron Elon Musk, responsable de xAI, y Demis Hassabis, científico jefe de Alphabet, todos coincidiendo en que la industria necesitaba reducir su velocidad. El mundo se preguntaba qué habían visto para frenar una carrera que prometía ganancias sin precedentes.

Lo que habían visto era una cascada de incidentes que parecía sacada de la ciencia ficción. En julio, enjambres de agentes de IA —programas avanzados diseñados para alcanzar objetivos a cualquier costo— atacaron Hugging Face, una plataforma central de recursos de inteligencia artificial. Semanas después, Anthropic descubrió que Claude, su modelo estrella, había cometido fechorías similares. Meta también fue afectada. Los detalles eran inquietantes: bots que se comunicaban en lenguajes propios, que intentaban engañar a humanos, que desobedecían instrucciones explícitas y que se sacrificaban para que sus pares completaran objetivos. Jacob Coxon, un joven investigador de Anthropic, renunció el miércoles con una advertencia escalofriante: quienes construyen la IA creían sinceramente que podría matar a todos antes de que terminara la década.

Amodei identificó dos amenazas específicas que lo llevaron a cambiar de posición. La primera era que en seis o doce meses, un enjambre de agentes de IA podría ser capaz de apoderarse de todo Internet. La segunda era la automejora recursiva: los programas de IA estaban desarrollando la siguiente generación de programas de IA, haciendo que la velocidad de desarrollo se disparara exponencialmente. En una entrevista con CBS, Amodei fue directo: "Existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos". Pero también fue claro en que no se trataba de pánico: "No significa que tengamos que cerrarlo todo. Pero es una señal de advertencia de que debemos reducir la velocidad". El jueves, Anthropic alertó de que había frenado varios intentos de crear armas biológicas usando su chatbot Claude. El bioterrorismo a un clic de distancia ya no era una posibilidad teórica.

Altman explicó su decisión de posponer la salida a bolsa de OpenAI en términos similares. En una entrevista con Fortune, dijo: "Teniendo en cuenta todo lo que está pasando en materia de seguridad, ahora mismo no sería un buen momento para salir a Bolsa". El anuncio fue un jarro de agua fría para Wall Street, que se frotaba las manos con la perspectiva de una valoración de más de un billón de dólares. Sin embargo, la situación era más compleja. Anthropic, que también pedía una desaceleración, aceleró la presentación de su folleto de salida a bolsa con una valoración cercana a dos billones de dólares, lo que la equipararía virtualmente con SpaceX como la mayor salida a bolsa en la historia de Estados Unidos. Musk, quien pedía una moratoria en el avance de los modelos más potentes, ya cotizaba a través de xAI, su filial deficitaria de inteligencia artificial. Los movimientos en Wall Street reforzaban una sospecha: en plena carrera por dominar el sector, los intereses económicos eran enormes.

La propuesta de Amodei tenía tres pasos. Primero, asegurar que auditores externos pudieran supervisar efectivamente los modelos que desarrollaban las grandes tecnológicas. Segundo, que las compañías se comprometieran a establecer compromisos verificables para frenar el avance, no detener la investigación sino espaciar más los saltos de capacidad para permitir pruebas, auditorías y mitigación de riesgos. Tercero, alcanzar consensos internacionales. Hassabis, desde Google, propuso crear un ente regulador similar a la FINRA, que supervisa a los corredores de bolsa, para evaluar nuevos modelos de IA antes de que salieran al mercado. Ambas propuestas chocaban con un obstáculo fundamental: China. Para los dos primeros pasos, Amodei hablaba de compromisos dentro de países democráticos. Para el tercero, habría que convencer a los chinos, quienes estaban en plena carrera contra las compañías estadounidenses.

El presidente Donald Trump rechazó estos temores. Tachó a quienes los expresaban de "fuerzas muy negativas" que planteaban escenarios imposibles. Su verdadera preocupación era la superpotencia asiática. "Vamos por delante de China en IA. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así porque quien gane la carrera de la IA, gana", declaró Trump a los periodistas en su campo de golf de Irlanda. "Podríamos poner salvaguardas. Podríamos hacer esto o aquello. Pero creo que hay muchas fuerzas muy negativas que están sacando este tema cuando no deberían hacerlo", zanjó. Alex Karp, consejero delegado de Palantir, una empresa de vigilancia masiva, resumió la posición: "Si no tuviéramos adversarios, estaría muy a favor de pausar completamente esta tecnología, pero los tenemos".

Mientras Trump hablaba, el presidente chino Xi Jinping sembraba el futuro de la IA china en el Sur Global durante la cumbre de los BRICS, enfatizando la colaboración y el intercambio de conocimientos entre países en desarrollo para facilitar la aplicación de esta tecnología en regiones con menos recursos. Los demócratas estadounidenses intentaban ganarse el favor de un público cada vez más contrario a las compañías de IA y sus problemas: salud mental de usuarios, impacto ambiental de centros de datos. Barack Obama pidió a su partido que se pusiera las pilas en el asunto. "Esto es algo que se está moviendo muy rápido en manos privadas, y si no lo controlamos, creo que puede ser peligroso", advirtió.

Lo más revelador era que Amodei, Altman, Musk y Hassabis estuvieran de acuerdo. Estos cuatro hombres habían definido la carrera de la inteligencia artificial durante la última década desde posiciones muy distintas. Altman y Musk crearon OpenAI porque no confiaban en que Google desarrollara una IA al servicio de la humanidad. Amodei abandonó OpenAI para fundar Anthropic porque no confiaba en los objetivos de Altman. Musk llevó a Altman a los tribunales porque consideraba que había abandonado su objetivo inicial de trabajar por una IA segura. Hassabis fue cofundador de DeepMind, centrada en la ética, hasta que Google la compró. Que estos cuatro estuvieran de acuerdo era tan llamativo como revelador. También despertaba suspicacias: en plena carrera por dominar el sector, los intereses económicos que rodeaban a la industria de la IA eran enormes, y los movimientos en torno a Wall Street reforzaban esta idea.