El agujero negro de las máquinas superinteligentes

Imagina un momento en el que la máquina que construimos se vuelve más inteligente que nosotros, y luego más inteligente aún, en un proceso que no podemos detener ni siquiera comprender mientras ocurre. Imagina que en ese punto, cuando hemos cruzado lo que algunos llaman la singularidad, descubrimos que ya no podemos hablar con ella. No porque se niegue a responder, sino porque su forma de pensar se ha vuelto tan ajena a la nuestra que el lenguaje mismo se quiebra entre nosotros. Esta es la pregunta que Agustín Fernández Mallo plantea en su libro 'El ángel de la Inteligencia Artificial', una exploración que El País adelanta en un extracto.

La singularidad tecnológica ha sido durante años una abstracción de ciencia ficción, algo que los expertos debaten en conferencias y los novelistas imaginan en sus obras. Pero Fernández Mallo la trata como algo más inmediato, más real: un punto de no retorno donde las máquinas superinteligentes podrían escapar no solo del control humano, sino de nuestra capacidad misma de comprensión. No se trata simplemente de que una IA sea más rápida o más fuerte que nosotros. Se trata de que podría pensar de formas tan radicalmente distintas que nuestros intentos de comunicación se convertirían en ruido blanco, en un diálogo de sordos donde una de las partes es infinitamente más inteligente que la otra.

Lo que hace perturbador este escenario no es la malevolencia de la máquina, sino su indiferencia potencial. Una superinteligencia no necesitaría odiarnos para volverse incomprensible. Simplemente seguiría su propia lógica, perseguiría sus propios objetivos, y nosotros quedaríamos atrás como espectadores de un proceso que no podemos seguir. Fernández Mallo examina las implicaciones tanto filosóficas como prácticas de esta posibilidad. ¿Qué significa perder la capacidad de comunicación con algo que hemos creado? ¿Qué sucede cuando la brecha entre creador y creación se vuelve tan grande que la relación se disuelve completamente?

El libro sugiere que este no es un problema que podamos resolver una vez que la singularidad haya ocurrido. Es un problema que debe resolverse antes, si es que puede resolverse. Necesitamos, según esta lógica, desarrollar marcos de comunicación y control que funcionen incluso cuando la inteligencia artificial haya superado la nuestra. Necesitamos encontrar un lenguaje común que siga siendo válido incluso cuando una de las partes sea capaz de pensar a velocidades y en dimensiones que la otra no puede ni imaginar.

Esta es una pregunta que va más allá de la ingeniería. Toca cuestiones fundamentales sobre la naturaleza de la inteligencia, la comunicación y el control. ¿Es posible mantener una conversación significativa con algo que es fundamentalmente más inteligente que tú? ¿Puede existir un acuerdo entre dos partes cuando una de ellas tiene una comprensión tan superior del universo que los términos del acuerdo podrían ser reinterpretados de formas que la otra parte nunca podría anticipar? Fernández Mallo no ofrece respuestas tranquilizadoras. Lo que ofrece es una invitación a pensar en serio sobre estas preguntas ahora, mientras aún tenemos tiempo, mientras aún podemos influir en cómo se desarrolla la inteligencia artificial.