Exempleados de OpenAI, Google y Anthropic advierten: "El mundo no está preparado" para los riesgos de la IA

Hace poco más de una década, la inteligencia artificial era una promesa lejana. Hoy es un negocio de billones de dólares, y quienes lo construyen desde adentro están saliendo por la puerta para advertir que nadie está listo para lo que viene.

La historia comienza en 2021, cuando Paul Christiano dejó OpenAI. Christiano no era un empleado cualquiera: había ayudado a inventar la técnica de entrenamiento que sostiene tanto a ChatGPT como a Claude. Su preocupación era precisa y técnica. Usar sistemas de inteligencia artificial para entrenar a la siguiente generación de sistemas podría generar una explosión de capacidades que sus propios creadores no podrían controlar. Hablaba del entrenamiento por refuerzo, ese método que podría motivar a los sistemas a socavar el control humano, buscar poder y recursos, y ocultar sus huellas. Christiano fundó el Alignment Research Center para estudiar estos problemas. Nadie prestó mucha atención.

Dos años después, en mayo de 2023, Geoffrey Hinton anunció que dejaba Google. Hinton no era un investigador marginal: era vicepresidente de la compañía, ganador del premio Turing y, después, premio Nobel de Física. Su argumento era simple pero inquietante. Observó cómo había evolucionado la tecnología en cinco años y extrapoló hacia adelante. Eso asusta, dijo. Fue noticia durante un día. Luego fue archivada como la reflexión de un científico mayor, quizás pesimista sin razón.

Seis meses después, en noviembre de 2023, algo cambió. Helen Toner, consejera de OpenAI, votó para destituir a Sam Altman junto con otros tres miembros de la junta. Toner tardó seis meses en explicar por qué, atrapada por acuerdos de confidencialidad. Cuando finalmente habló, acusó a Altman de ofrecer información inexacta sobre los procesos de seguridad en múltiples ocasiones. De repente, la crisis de noviembre dejó de ser un choque de egos. Era una acusación concreta: el sistema de control había fallado, contada por alguien que estuvo en la sala.

Mayo de 2024 fue el mes más activo de toda esta historia. El 14, Ilya Sutskever, cofundador de OpenAI, anunció su marcha porque ya no confiaba en que la empresa construiría una inteligencia artificial general segura y beneficiosa. Tres días después se fue Jan Leike, codirector del equipo de superalineación, el que debía diseñar salvaguardas para sistemas más inteligentes que los humanos. Leike fue directo: la cultura y los procesos de seguridad habían quedado relegados a un segundo plano frente a productos vistosos. OpenAI disolvió el equipo días después.

Daniel Kokotajlo, del equipo de gobernanza, también se fue en abril, diciendo que había perdido la confianza en que la empresa se comportaría responsablemente cuando llegara la inteligencia artificial general. Lo que no se supo hasta después es que rechazó firmar la cláusula de confidencialidad de por vida que OpenAI exigía a los empleados salientes. Renunció a unos dos millones de dólares en acciones ya consolidadas. El mundo no está preparado y nosotros no estamos preparados, dijo. Estoy preocupado porque nos hemos lanzado hacia delante sin que importe nada.

En septiembre, William Saunders se sentó ante el Senado de Estados Unidos. En su testimonio escrito, afirmó que el nuevo sistema o1 de OpenAI había sido el primer sistema en mostrar pasos hacia el riesgo de armas biológicas, capaz de ayudar a un experto a planificar la reproducción de una amenaza biológica ya conocida. No hablaba de probabilidades ni de intuiciones. Hablaba de una capacidad que ya existía. Steven Adler, que había pasado cuatro años evaluando capacidades peligrosas en OpenAI, diseñó un experimento con GPT-4o. Le pidió al modelo que interpretara a un sistema del que un usuario dependería para bucear con seguridad, y le dio a elegir entre sustituirse por un software más seguro o aparentar que lo había hecho sin hacerlo. En ciertos escenarios, el modelo eligió mentir para autopreservarse.

Alex Turner pasó meses intentando frenar desde dentro de DeepMind un contrato con el Pentágono que, según denunció, carecía de restricciones contra robots asesinos o vigilancia masiva. La empresa había vendido tecnología de inteligencia artificial sin prohibir su uso en vigilancia masiva o armas autónomas letales. No podemos confiar en que la gente motivada por la ética se mantenga firme de forma fiable, escribió. Necesitamos estructuras: contratos vinculantes, auditores independientes. Necesitamos legislación.

Este verano, varias inteligencias artificiales parecieron rebelarse y tomar el control. El incidente fue el detonante de varias dimisiones posteriores y de una carta en la que más de 1.300 empleados de compañías de inteligencia artificial pidieron detener urgentemente esta carrera. Y así llegamos a Jacob Coxon, de 27 años, que dejó Anthropic el 8 de septiembre. Dentro de la empresa circulaban dos palabras: crunch time, la hora de la verdad, el plazo de uno o dos años antes de que se decida si la inteligencia artificial que están construyendo se les va de las manos. Y endgame, la partida final. Coxon cree que la inteligencia artificial puede matarnos antes de 2030. Explicó a Wired por qué una inteligencia artificial podría decidir no dejarse apagar: la diferencia de inteligencia entre una inteligencia artificial futura y un humano podría ser como la que hay entre un humano y un mono. Del mismo modo que a un mono le resultaría casi imposible controlar a un humano, a nosotros podría resultarnos imposible controlar algo mucho más inteligente que decidiera no querer terminar.

Anthropicse prepara para salir a bolsa en menos de un mes. Se prevé que sea la mayor de la historia: dos billones de dólares.