Altman y Amodei piden a la ONU regulación global para la IA ante riesgo de pérdida de control

Sam Altman y Dario Amodei se presentaron ante el Consejo de Seguridad de las Naciones Unidas con un mensaje que suena casi contradictorio viniendo de quienes construyen la tecnología en cuestión: la inteligencia artificial necesita regulación global urgente, o la humanidad podría perder el control sobre ella.

Amodei, director ejecutivo de Anthropic, fue directo. Sin salvaguardias comunes acordadas entre naciones, advirtió, la tecnología podría derivar en consecuencias irreversibles. "Si se gestiona mal, creo que la IA podría incluso suponer un riesgo para la humanidad en su conjunto", dijo ante el organismo internacional. Altman, de OpenAI, planteó una preocupación similar pero expresada en términos más crudos: "Podríamos perder el control del futuro a manos de la IA". Ambos coincidieron en un punto central que estructura toda la discusión: los países del mundo, actuando a través del Consejo de Seguridad, deben establecer límites verificables antes de que la tecnología alcance un nivel de poder imposible de supervisar. También insistieron en que ese poder no quede concentrado en una sola empresa o un solo país.

La sesión reveló una fractura profunda entre potencias sobre cómo gobernar esta tecnología. El ministro de Asuntos Exteriores británico, Ed Miliband, respaldó el planteo de los ejecutivos. "Nos están diciendo claramente que no se les puede dejar a ellos la responsabilidad de evitar que el mundo se vea asediado", declaró. "No podemos ignorarlos porque tienen razón". Miliband anunció que cuando el Reino Unido asuma la presidencia del G20 el próximo año, colocará el control de la inteligencia artificial en el centro de las discusiones, con el objetivo de alcanzar un conjunto único de estándares globales para garantizar que el desarrollo sea seguro.

Esta postura choca de manera directa con la posición de Estados Unidos. Michael Kratsios, asesor científico de la Casa Blanca, expresó en la misma sesión que las preocupaciones sobre el control de la tecnología "no son motivo para detener su desarrollo ni para limitarlo con una nueva estructura de gobernanza global". Washington apunta a extender los beneficios de la inteligencia artificial entre sus aliados internacionales sin someterla a un marco regulatorio compartido. "Queremos que ustedes, nuestros aliados y socios, se beneficien de esta tecnología", afirmó Kratsios ante el Consejo.

Amodei también pidió a los líderes mundiales que acuerden no permitir que la inteligencia artificial participe en la construcción de armas biológicas. Reclamó además mecanismos para verificar qué capacidades tienen realmente los modelos disponibles y establecer estándares comunes para las pruebas de seguridad, la detección de pérdida de control de los sistemas y su uso indebido. Un día antes de esta sesión, el secretario general de la ONU, Antonio Guterres, había advertido sobre los llamados "robots asesinos". Según expertos y líderes europeos que participaron del debate, esa advertencia no describe un escenario hipotético, sino una realidad ya presente o peligrosamente próxima a concretarse.

El ministro de Asuntos Exteriores francés, Jean-Noël Barrot, cuyo país convocó la reunión, trazó un paralelismo entre el momento actual de la inteligencia artificial y dos episodios históricos: la computadora descontrolada HAL9000 de la película "2001: Una odisea del espacio", y los primeros años de la era atómica. La divergencia entre potencias deja planteado un interrogante que atraviesa la agenda de los principales gobiernos: quién debe tener la última palabra sobre las decisiones que involucran sistemas de inteligencia artificial, si los humanos o las propias máquinas, y bajo qué reglas comunes, si es que llegan a existir.