Guterres insta a gobiernos a regular la IA ante riesgos de avance descontrolado

António Guterres se presentó ante los micrófonos en la sede de la ONU el miércoles 16 de septiembre con un mensaje que no dejaba lugar a ambigüedades: los gobiernos del mundo necesitan actuar ahora para evitar que la inteligencia artificial se desarrolle sin control. El secretario general reconoció sin reservas el "enorme potencial" de la tecnología, pero insistió en que ese potencial solo será beneficioso si viene acompañado de salvaguardias que garanticen que sea segura, transparente y responsable.

Su advertencia llegaba en un momento en que los propios líderes de la industria tecnológica estaban levantando la voz sobre los mismos riesgos. Dario Amodei, consejero delegado de Anthropic, había pedido recientemente una regulación más estricta para contener los peligros de un avance sin límites y evitar perder el dominio sobre sistemas cada vez más sofisticados. Sam Altman, director ejecutivo de OpenAI, y Elon Musk habían respaldado públicamente esa posición. Guterres dejó claro que no podía ignorar estas preocupaciones, especialmente viniendo de quienes estaban en la primera línea del desarrollo de la tecnología.

Pero el secretario general fue más allá de simplemente reconocer el problema. Señaló que la responsabilidad inicial recae en los gobiernos nacionales para proteger a sus ciudadanos. Sin embargo, advirtió que los esfuerzos aislados nunca serían suficientes. "La IA no se detiene en las fronteras, tampoco sus riesgos", afirmó, rechazando la idea de que pausas voluntarias, descoordinadas e imposibles de verificar pudieran resolver algo. El problema requería una respuesta global y coordinada, no parches locales.

Guterres anunció que la inteligencia artificial sería uno de los temas centrales en sus conversaciones con los líderes internacionales durante la próxima Asamblea General de la ONU, programada para el 22 al 28 de septiembre. Su objetivo era construir un entendimiento compartido sobre cómo avanzar en un desarrollo seguro, protegido y responsable de la tecnología, mientras se identificaba cuándo sistemas más potentes podrían requerir salvaguardias más firmes o medidas adicionales para gestionar los riesgos potenciales.

El diplomático portugués también abordó la tentación geopolítica que podría surgir en la carrera por dominar la IA. Reconoció que las divisiones entre potencias mundiales podrían generar presiones para acelerar el desarrollo a cualquier costo. Pero fue categórico: el mundo no podía permitirse una competencia en la que se sacrificara la seguridad para ganar ventaja. Guterres incluyó la "IA desbocada" junto a la crisis climática y la profundización de las desigualdades como las principales crisis existenciales que enfrenta la humanidad en este momento.