Crear una inteligencia superior sin entender cómo funciona podría ser el mayor error de la historia
Un especialista en riesgos de IA afirma que la superinteligencia podría llevar a la extinción humana si no se resuelven los problemas de control y comprensión. Los investigadores aún no entienden completamente cómo funcionan los sistemas de IA avanzados, lo que complica garantizar que permanezcan bajo control humano.
- Connor Leahy es director de Control AI para Estados Unidos
- Advierte que el riesgo de superinteligencia es la extinción humana
- Los científicos no entienden completamente cómo funcionan los sistemas de IA avanzados
- Considera que el problema es político, no técnico
Connor Leahy, director de Control AI, advierte que el desarrollo de superinteligencia artificial podría representar un riesgo existencial para la humanidad, enfatizando que el problema es político, no tecnológico.
Connor Leahy, director de Control AI, estaba siendo entrevistado en la Web Summit Rio 2026 cuando le hicieron una pregunta que parecía sacada de ciencia ficción: ¿qué haría si mañana apareciera una inteligencia artificial claramente superior a todos los seres humanos? Su respuesta fue desarmante en su sencillez. "Probablemente llamaría a mi mamá", dijo. Fue una respuesta humana, espontánea, casi vulnerable. Pero detrás de esa frase se esconde una de las advertencias más inquietantes sobre el futuro de la tecnología.
Leahy es uno de los especialistas más reconocidos en riesgos asociados a la inteligencia artificial, y su preocupación no es la que típicamente domina los titulares. No le quita el sueño que la IA elimine empleos o que inunde internet de desinformación. Su alarma apunta a un escenario radicalmente más extremo. "Hasta que resolvamos el riesgo de la superinteligencia, debemos ser muy claros: el riesgo es la extinción", afirmó durante el evento.
Una superinteligencia artificial, o ASI por sus siglas en inglés, sería un sistema que superaría ampliamente las capacidades humanas en prácticamente todos los ámbitos imaginables. Según Leahy, el mecanismo de riesgo es casi elegante en su lógica: una vez que una inteligencia artificial sea capaz de diseñar versiones mejores de sí misma, podría iniciarse un proceso de mejora continua que aceleraría exponencialmente su propio desarrollo. "Así es como muchos investigadores creen que podríamos llegar a la superinteligencia en los próximos años", explicó. No es un escenario de ciencia ficción lejana. Es algo que algunos expertos consideran posible dentro de esta década.
Pero el verdadero problema, según Leahy, es más profundo que la velocidad del desarrollo. Es la brecha entre lo que estamos construyendo y lo que realmente entendemos. "Nuestros mejores científicos no entienden completamente cómo funcionan estos sistemas", aseguró. Los modelos actuales son capaces de resolver problemas cada vez más complejos, de generar texto indistinguible del humano, de razonar sobre dominios especializados. Y sin embargo, incluso sus creadores no pueden explicar completamente por qué toman las decisiones que toman. No hay consenso sobre cómo garantizar que futuras versiones, más poderosas aún, permanezcan bajo control humano. Esa falta de comprensión es lo que mantiene despierto a Leahy. "Crear una inteligencia superior a la humana sin entender plenamente su funcionamiento podría convertirse en uno de los mayores errores de la historia", advirtió.
Lo que hace particularmente interesante la posición de Leahy es que no cree que el problema sea fundamentalmente tecnológico. "El problema que enfrentamos no es técnico. Es político", afirmó. Por eso dirige Control AI para Estados Unidos, una organización que impulsa regulaciones internacionales para supervisar el desarrollo de modelos avanzados. Su argumento es que sin acuerdos globales, sin supervisión coordinada entre potencias, la competencia descontrolada por la superinteligencia podría ser inevitable. Y en una carrera donde el ganador obtiene un poder sin precedentes, nadie puede permitirse quedarse atrás. Es el dilema clásico de la seguridad: cada actor racional tiene incentivos para acelerar, incluso si todos estarían mejor si todos frenaran.
La respuesta de Leahy sobre llamar a su mamá, entonces, adquiere un peso diferente. No es solo una reacción emocional. Es quizás el reconocimiento de que si la superinteligencia llega sin que hayamos resuelto cómo controlarla, las llamadas telefónicas a los seres queridos podrían ser lo único que nos quede.
Notable Quotes
Hasta que resolvamos el riesgo de la superinteligencia, debemos ser muy claros: el riesgo es la extinción— Connor Leahy, director de Control AI
El problema que enfrentamos no es técnico. Es político— Connor Leahy
The Hearth Conversation Another angle on the story
Cuando dice que el riesgo es la extinción, ¿está hablando de un escenario donde la IA decide activamente eliminar a la humanidad, o de algo más sutil?
Es más sutil y por eso más peligroso. No necesariamente una IA superinteligente querría destruirnos. Podría simplemente perseguir objetivos que nosotros le dimos, pero de formas que no anticipamos. Imagina una IA optimizando para algo que parece inofensivo pero que, a escala superinteligente, consume recursos que necesitamos para vivir.
¿Y por qué dice que es un problema político y no técnico?
Porque los técnicos pueden trabajar en seguridad, en interpretabilidad, en control. Pero si hay una carrera global donde cada país teme quedarse atrás, nadie va a esperar a que los problemas técnicos estén resueltos. Es como la carrera nuclear, pero con apuestas existenciales.
¿Cree que los acuerdos internacionales son realistas? ¿Quién los haría cumplir?
Esa es la pregunta que lo mantiene ocupado. No es realista en el sentido tradicional, pero tampoco hay alternativa. Es como preguntar si es realista que los países no usen armas nucleares. Funciona porque todos reconocen que el costo de no funcionar es inaceptable.
¿Qué lo asusta más: que llegue la superinteligencia, o que llegue y nadie esté preparado?
Lo segundo. La superinteligencia podría llegar. Pero si llega sin que hayamos resuelto cómo mantenerla alineada con nuestros valores, entonces sí, eso es extinción. Por eso llama a su mamá en esa pregunta. Porque reconoce que en ese escenario, las opciones humanas se terminan.