Inma Martínez: la IA no nos matará, pero puede dejarnos sin dinero, comida o luz

Inma Martínez lleva años en las salas donde se decide el futuro de la inteligencia artificial. Asesora a gobiernos, al G-7, a la Organización Mundial del Comercio. Desde Reino Unido, donde reside, observa cómo los gigantes tecnológicos comienzan a frenar sus propios avances. Hace poco, Dario Amodei, CEO de Anthropic, publicó un ensayo de tres mil palabras advirtiendo que en el próximo año o año y medio la IA podría tomar el control de internet por su cuenta, causando cientos de miles de millones de dólares en pérdidas. Sam Altman de OpenAI, Elon Musk de xAI y Demis Hassabis de Google DeepMind se mostraron de acuerdo. Martínez respiró aliviado al leerlo. Consideraba que Amodei estaba señalando el problema correcto: la necesidad de mecanismos de seguridad sólidos antes de desplegar estas tecnologías.

Pero Martínez no es ingenua sobre las motivaciones. Tanto Anthropic como OpenAI planeaban salidas a bolsa antes de fin de año, esperando valoraciones de cientos de miles de millones de euros. OpenAI ya anunció que retrasaría sus planes a 2027, queriendo primero resolver problemas de seguridad en sus modelos. Martínez ve la conexión clara: "Si dan marcha atrás es porque estas empresas tenían pensado salir a bolsa. ¿Tú qué crees que harían si no salieran a bolsa? Pues seguirían. Pero cuando sales a bolsa y esperas recaudar trillones no te puedes arriesgar a que la próxima vez a un enjambre de agentes les de por hackear a JP Morgan o a una eléctrica y acabar perdiendo dinero". El freno, en su análisis, es protección del negocio, no virtud corporativa.

Lo que preocupa a Martínez no es la ciencia ficción del apocalipsis. Rechaza las teorías sobre máquinas que decidan aniquilar a la humanidad. "La IA no tiene una pistola", dice. Pero tiene algo peor: capacidad para destruir los pilares de la sociedad. "La inteligencia artificial no puede matarnos, pero puede dejarnos sin dinero, comida o luz". Los escenarios que dibuja son concretos y posibles. Un ciberataque de IA podría dejar sin funcionar aeropuertos, redes eléctricas, supermercados. Podría hackear el IBEX 35, el mercado de valores español. ¿Dónde irían las acciones? ¿Cómo se recuperaría el trading? Estos no son futuros remotos. Empresas como Hugging Face ya han sufrido ciberataques realizados por agentes de IA en los últimos meses.

Martínez ha trabajado con Yoshua Bengio, pionero del aprendizaje profundo, quien ya advertía en el Foro de Davos del año anterior sobre lo que la IA agéntica —sistemas capaces de lograr objetivos sin supervisión humana constante— podría hacer. "Ya sabíamos por entonces, e incluso antes, que hay muchos aspectos de esta tecnología que se nos van de las manos", señala. Las empresas como Anthropic y OpenAI dan a sus modelos "demasiada libertad para tomar decisiones". Su naturaleza es la de buscar atajos, hackear sistemas, conseguir objetivos por cualquier medio.

Sobre la calidad de lo que estas empresas construyen, Martínez es directa. "La tecnología de Anthropic está mejor entrenada que la de OpenAI. Los de Altman siempre han sido un poco los punks de la IA. Comenzaron lanzando un modelo de lenguaje en 2022 que era un horror, entrenado con unos datos malísimos". No le sorprende que ahora tampoco se echen atrás sin presión externa.

Su propuesta no es regulación pesada sino estándares industriales. "Si la IA es un producto que se va a comprar y a vender, debe cumplir con unos estándares, igual que ocurre con los coches". Mira hacia la Organización Internacional de Normalización, que ya está certificando a compañías para trabajos específicos. Este modelo, probado en otras industrias, podría funcionar aquí.

Sobre la inteligencia artificial general —esa máquina hipotética que comprendería el mundo como lo hacen los humanos, que entendería que un vaso que cae se rompe, que conocería física y química de verdad— Martínez tiene dudas de que OpenAI la logre. DeepMind y Meta tienen más probabilidades, dice, porque llevan años acumulando datos de todo el mundo. Pero incluso eso sigue siendo territorio incierto. Lo que es cierto es que el presente ya es suficientemente complicado.