Sam Altman advierte a la ONU sobre riesgos de la IA y exige supervisión internacional

Sam Altman se presentó ante el Consejo de Seguridad de las Naciones Unidas el miércoles pasado con un mensaje que sonaba casi como una advertencia de película de ciencia ficción, pero que venía del hombre que dirige una de las empresas más poderosas en tecnología de inteligencia artificial del mundo. OpenAI necesita que los gobiernos actúen ahora, dijo, para establecer reglas internacionales que eviten que la humanidad pierda el control sobre los sistemas de IA más avanzados. La sesión de alto nivel, convocada bajo la presidencia francesa del Consejo, marcó la primera vez que este órgano abordaba directamente los riesgos de ciberataques autónomos y la posibilidad de que máquinas inteligentes escapen a la supervisión humana.

Altman planteó un dilema que ha perseguido a la tecnología desde sus inicios: el equilibrio entre el riesgo y el beneficio. La inteligencia artificial, argumentó, podría catalizar un nuevo Renacimiento si se desarrolla como herramienta para ampliar lo que los seres humanos pueden hacer. Pero existe otro camino posible, uno donde estos sistemas terminen reemplazando la capacidad de decisión de las personas o donde simplemente se vuelvan demasiado complejos para que alguien los entienda. Advirtió contra la tentación de asumir riesgos tecnológicos desmedidos solo porque los beneficios parecen demasiado grandes para rechazarlos. El peligro, según su análisis, es que la industria se encuentra en una encrucijada y las decisiones que se tomen ahora determinarán qué camino se toma.

El riesgo específico que más preocupa a Altman es el de los modelos capaces de programarse a sí mismos y mejorar sus propias capacidades de manera recursiva. Estos sistemas podrían acelerar su desarrollo hasta un punto en el que los humanos ya no comprendan completamente cómo funcionan ni puedan seguir sus procesos de razonamiento. Es un escenario que suena abstracto hasta que se considera lo que significa en términos prácticos: máquinas tomando decisiones que nadie puede auditar o explicar completamente. Para evitar esto, Altman pidió que las empresas tecnológicas reciban orientación clara de los líderes mundiales. Esa orientación debe traducirse en marcos técnicos concretos que permitan medir qué pueden hacer estos modelos, identificar amenazas potenciales y verificar que cuenten con mecanismos de seguridad adecuados. También propuso crear canales internacionales seguros donde las empresas puedan compartir información sobre vulnerabilidades críticas sin exponerse a riesgos de seguridad nacional.

Lo que Altman está pidiendo, en esencia, es que el mundo actúe como lo ha hecho en momentos anteriores cuando nuevas tecnologías poderosas amenazaban con cambiar el equilibrio global. Defendió la idea de que incluso países que compiten entre sí pueden encontrar terreno común cuando enfrentan riesgos compartidos. "A nivel internacional, esto significa cooperación," dijo, recordando que en la historia ha habido momentos en que naciones que no siempre se llevan bien se han unido por intereses comunes y el bien colectivo ante una tecnología nueva y poderosa. Cree que este debe ser uno de esos momentos. Para enmarcar su posición, presentó tres principios que guían el trabajo de OpenAI: mantener a las personas en el centro de la toma de decisiones, orientar el progreso científico y económico por y para las personas, y empoderar a cada individuo. "Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia," afirmó, sugiriendo que el verdadero poder reside en el talento humano.

La sesión incluyó participación de otros actores clave en el ecosistema de la IA. Dario Amodei, de Anthropic, y Clément Delangue, de Hugging Face, participaron por videoconferencia, ampliando la conversación más allá de OpenAI. El ministro francés de Asuntos Exteriores, Jean-Noël Barrot, presidió el encuentro. Lo que está en juego es nada menos que cómo la comunidad internacional abordará una de las tecnologías más transformadoras jamás creadas. Las palabras de Altman ante el Consejo de Seguridad sugieren que la ventana para establecer reglas internacionales efectivas podría estar cerrándose, y que los gobiernos necesitan actuar con urgencia si quieren mantener la capacidad de gobernar sistemas que podrían pronto gobernarse a sí mismos.