OpenAI y Modi abogan por regulación urgente y transparencia en IA

En Nueva Delhi, durante la cuarta cumbre mundial anual sobre inteligencia artificial, Sam Altman, director de OpenAI, planteó una idea que ha comenzado a circular entre los líderes tecnológicos: el mundo necesita regulación urgente de la IA, y podría hacerlo a través de una institución internacional nueva, modelada según el Organismo Internacional de Energía Atómica.

Altman fue claro en el escenario. No se trata de rechazar la regulación, dijo, sino de reconocer que ya la necesitamos, así como la hemos necesitado para otras tecnologías poderosas. La propuesta es crear un organismo capaz de coordinar esfuerzos de seguridad entre naciones y empresas, con la flexibilidad para responder rápidamente a cambios en una tecnología que evoluciona a ritmo vertiginoso. ChatGPT, el chatbot de OpenAI, cuenta con 100 millones de usuarios semanales solo en India, más de un tercio de ellos estudiantes. El jueves mismo, OpenAI anunció junto con Tata Consultancy Services la construcción de un centro de datos en el país.

Pero Altman también advirtió sobre un riesgo fundamental: la concentración del poder. La democratización de la IA, sostuvo, es la mejor garantía de que la humanidad prospere. Si esta tecnología se centraliza en una sola empresa o país, el resultado podría ser la ruina. Los próximos años pondrán a prueba a la sociedad global, dijo, y la humanidad tendrá que elegir entre empoderar a las personas o concentrar el poder. Cuando se le preguntó sobre la disrupción laboral, Altman respondió que la tecnología siempre ha alterado los empleos, y siempre hemos encontrado cosas nuevas y mejores que hacer.

El primer ministro de India, Narendra Modi, presentó una visión complementaria pero distinta. Mientras Altman enfatizaba la coordinación internacional, Modi defendió el código abierto y la transparencia radical como defensa contra los riesgos de la IA. Algunos países y empresas, observó Modi, tratan la inteligencia artificial como un activo estratégico confidencial. Eso es un error. La luz del sol es el mejor desinfectante, dijo, citando una frase común en debates sobre transparencia. Cuando los códigos son abiertos y se comparten, millones de mentes jóvenes pueden hacerlos mejores y más seguros.

Modi presentó su visión MANAV —que significa humano en hindi— para garantizar que la tecnología sea ética, soberana y accesible. Instó a la comunidad internacional a que la IA se convierta en un bien común global. Solo cuando se comparte, agregó, puede beneficiar realmente al mundo. El primer ministro también enfatizó la seguridad infantil, argumentando que el espacio de la IA debe ser tan seguro para los niños como lo es el plan de estudios escolar, guiado por consideraciones familiares.

Pero quizás la propuesta más concreta de Modi fue sobre los deepfakes y el contenido fabricado. Estos representan un riesgo creciente para la estabilidad de las sociedades abiertas, dijo. Su solución: crear estándares globales que incluyan etiquetas de autenticidad y marcas de agua digitales, similares al etiquetado nutricional de los alimentos. Los ciudadanos necesitan poder distinguir qué contenidos son reales y cuáles han sido generados por inteligencia artificial.

La cumbre en Nueva Delhi refleja una tensión creciente en el sector. Investigadores y activistas advierten sobre problemas concretos que ya están surgiendo: disrupción laboral, deepfakes sexualizados, estafas potenciadas por IA. Altman y Modi, desde posiciones diferentes, reconocen que se necesita acción. Altman propone coordinación institucional internacional. Modi propone transparencia radical y código abierto. Ambos coinciden en que el status quo —donde la tecnología avanza sin marcos claros— no es sostenible. Lo que suceda en los próximos meses en torno a estas propuestas determinará si la IA se desarrolla bajo algún tipo de supervisión global o si continúa siendo principalmente una carrera entre empresas y naciones por la ventaja competitiva.