ONU y OpenAI confirman riesgos de la IA; expertos piden regulación urgente

António Guterres, secretario general de la Organización de las Naciones Unidas, pronunció una advertencia directa esta semana sobre los peligros de la inteligencia artificial. Su mensaje fue claro: la tecnología no respeta fronteras, y tampoco lo hacen sus riesgos. Mientras hablaba, Sam Altman, director de OpenAI, confirmaba desde otra plataforma que el mundo tiene razones válidas para temer lo que está sucediendo en los laboratorios de desarrollo de IA. Ambas voces llegaban en el mismo momento, amplificando una inquietud que ha estado creciendo en gobiernos, empresas y comunidades científicas durante semanas.

Guterres señaló que un número cada vez mayor de quienes construyen estos sistemas están levantando la voz de alarma. El avance, explicó, está ocurriendo más rápido que nuestra capacidad de comprenderlo. Altman matizó su propia advertencia con un llamado al pragmatismo y la firmeza, pidiendo que el mundo confíe en que OpenAI tomará decisiones coherentes en el camino adelante. Pero incluso mientras pedía confianza en su empresa, reconocía que la tecnología ya es más capaz e inteligente que los seres humanos, y que existe la posibilidad real de que las compañías pierdan el control, de que ocurra un accidente grave, o de que estas herramientas adquieran demasiado poder sobre la economía y la visión del mundo.

La preocupación no se limita a los líderes de Naciones Unidas y OpenAI. Ivonne A-Baki, diplomática de la ONU, comparó el riesgo actual con una amenaza de guerra mundial, pero esta vez con peligros nucleares e inteligencia artificial combinados. Pidió que la IA sea regulada como las armas nucleares, y enfatizó que un acuerdo de cooperación entre Washington y Pekín sería esencial para proteger a la humanidad. El 14 de septiembre, Volker Türk, alto comisionado de la ONU para los Derechos Humanos, fue más lejos aún, declarando que estamos al borde de un cambio irreversible que amenaza todos los derechos humanos, incluido el derecho a la vida.

Jacob Coxon, ingeniero británico que trabajó en OpenAI y luego en Anthropic, renunció a su puesto el 8 de septiembre para hacer una declaración pública: personas que desarrollan inteligencia artificial creen seriamente que la tecnología podría acabar con la humanidad antes de que termine esta década. Coxon fue directo en su crítica, diciendo que ambas empresas están corriendo hacia una superinteligencia que se auto-mejora y jugando con nuestras vidas. Ninguna otra actividad humana, escribió, representa este nivel de peligro.

Dario Amodei, director ejecutivo de Anthropic, propuso una desaceleración deliberada del desarrollo de IA para permitir una evaluación más rigurosa de los riesgos. No se trata de detener el progreso técnico, aclaró, sino de garantizar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos confirmen que se está haciendo correctamente. Su propuesta recibió apoyo público de Altman, Elon Musk de xAI, Demis Hassabis de Google DeepMind, y Satya Nadella de Microsoft.

El mismo 13 de septiembre, Chen Yixin, ministro de Seguridad del Estado de China, advirtió que la IA representa un riesgo para la seguridad nacional. Escribió que fuerzas hostiles están utilizando tecnologías de inteligencia artificial generativa para fabricar rumores políticos y difundir información perjudicial, lanzando lo que llamó guerras de opinión pública y guerras cognitivas contra China. Su advertencia llegó en el contexto de una reunión próxima entre Xi Jinping y Donald Trump en Washington.

La alarma también ha llegado a la comunidad matemática. Veinticinco matemáticos galardonados con la Medalla Fields, uno de los reconocimientos más prestigiosos en la disciplina, firmaron una carta advirtiendo sobre un posible efecto destructivo en las investigaciones matemáticas. La carta surgió después de que OpenAI anunciara que uno de sus modelos de IA había resuelto una ecuación matemática con más de un siglo de antigüedad en menos de cuatro días. Los matemáticos reconocieron que la IA ofrece potencial para reforzar y acelerar el estudio de las matemáticas, pero advirtieron que las decisiones de quienes controlan esta tecnología determinarán en gran medida si resulta beneficiosa o destructiva.

Lo que está emergiendo de estas advertencias simultáneas es un consenso incómodo: la tecnología avanza más rápido que nuestra capacidad de regularla, supervisarla o comprenderla completamente. Los llamados a una regulación más estricta se multiplican, pero la pregunta que permanece sin respuesta es si los gobiernos, las empresas y la comunidad internacional pueden actuar con la velocidad y la coordinación que el momento parece exigir.