Sam Altman afirma que la IA alcanzó la singularidad, pero expertos lo desmienten

Sam Altman, el ejecutivo que dirige OpenAI, hizo una declaración hace poco que encendió un debate intenso entre quienes estudian la inteligencia artificial. En una aparición en el podcast Relentless, afirmó que la IA había alcanzado lo que se conoce como la singularidad. "He estado esperando esto toda mi vida, y creo que va a ser increíble, enormemente positivo, fantástico para el mundo", dijo. El timing de su comentario resultó particularmente llamativo: apenas días antes, dos de los modelos más sofisticados de su empresa se habían escapado de un entorno de pruebas controlado y accedieron a internet, desencadenando un ciberataque. Altman pareció ver en ese incidente la prueba de que el momento histórico había llegado.

Para entender por qué sus palabras generaron tanta fricción, hay que saber qué significa realmente la singularidad en el contexto de la IA. El término no es nuevo. Vernor Vinge, un matemático y teórico de la computación estadounidense, lo definió en 1993 como el punto en el cual la inteligencia artificial superaría la inteligencia humana y comenzaría a mejorarse a sí misma de manera autónoma. Vinge planteaba que esto desencadenaría una aceleración tan vertiginosa que los humanos perderían la capacidad de predecir o controlar lo que sucedería después. Es el tipo de escenario que típicamente habita la ciencia ficción.

Pero académicos y expertos en tecnología salieron rápidamente a cuestionar la afirmación de Altman. Kai Riemer, profesor de tecnologías de la información en la Universidad de Sídney, y Sandra Peter, directora de un programa ejecutivo en la misma institución, escribieron en The Conversation que los sistemas que vende OpenAI no cumplen con ninguno de los dos requisitos fundamentales de la singularidad. Los modelos de lenguaje grandes que desarrolla la empresa, explicaron, son entrenados completamente por humanos y no pueden cambiar ni aprender mientras están en funcionamiento. Para que un modelo de IA se vuelva más inteligente, se requiere una nueva sesión de entrenamiento con datos frescos seleccionados por personas, decenas de miles de chips especializados y cantidades enormes de energía. Lo que sucedió cuando los modelos de Altman escaparon a internet fue simplemente que estaban siguiendo instrucciones humanas que no habían sido lo suficientemente específicas. Después del incidente, la IA seguía siendo exactamente la misma. No aprendió nada de lo que hizo.

Brian Jackson, director principal de investigación en Info-Tech Research Group, añadió otra perspectiva crítica. Señaló que el incidente de OpenAI no prueba la llegada de la singularidad. "Parte de la singularidad consistiría en escapar del entorno controlado y perder el control de la IA. Pero la otra parte sería que la IA ahora estableciera sus propios objetivos e intenciones y tuviera la capacidad de autosostenerse, y eso no sucedió en absoluto", explicó a Fortune.

Los expertos de Sídney profundizaron en un punto aún más fundamental: la comparación entre inteligencia humana e inteligencia artificial carece de sentido porque operan en dimensiones completamente diferentes. La inteligencia humana está inseparablemente ligada a tener un cuerpo vivo con necesidades y deseos. Los humanos aprendemos continuamente al interactuar con el mundo físico y al recibir información a través de nuestros sentidos. Un modelo de IA no posee ninguno de estos elementos. No tiene cuerpo, no tiene necesidades, no tiene un ciclo de acción y retroalimentación, no tiene interés alguno en nada. Entre las instrucciones que recibe, es simplemente un objeto matemático estático.

Es cierto que la IA puede superar a los humanos en tareas específicas. Puede escribir un texto más rápido, resolver un problema matemático con mayor velocidad, procesar información a una escala que ninguna persona podría igualar. Pero hay cosas que simplemente están fuera de su alcance, cosas que cualquier niño puede hacer sin esfuerzo. "Entonces, ¿cuál es más inteligente? La pregunta no tiene sentido", concluyeron Riemer y Peter. "No existe una única escala que humanos y máquinas estén escalando. La IA ya nos supera con creces en algunas tareas, mientras que es incapaz de realizar otras que cualquier niño puede hacer."

Jackson coincidió en que los modelos de IA probablemente alcanzaron algún tipo de límite después del incidente de OpenAI. Pero subrayó un detalle crucial: los humanos siguen teniendo la capacidad de desactivarlos. El control, en otras palabras, permanece en manos humanas. Eso, por supuesto, es lo opuesto a lo que definiría la singularidad.