¿Nos roba la IA las ideas? Expertos sospechan que sí, pero es imposible probarlo

La semana pasada, OpenAI anunció que uno de sus modelos había resuelto el problema de existencia y suavidad de Navier-Stokes, uno de los siete Problemas del Milenio identificados por el Clay Institute y considerado entre los desafíos matemáticos más arduos jamás planteados. El logro tardó 88 horas de computación usando 10.000 agentes de inteligencia artificial. El problema había permanecido sin solución durante 90 años. Pero la victoria viene con una sombra: OpenAI ya ha reconocido que aplicó métodos desarrollados por investigadores españoles y aún no ha aclarado si incorporó también el trabajo de un científico de Anthropic, su principal competidor. Un portavoz de la empresa dirigida por Sam Altman negó haber utilizado directamente los prompts o pruebas del investigador rival, pero añadió algo revelador: "aunque improbable, no podemos descartar que datos derivados del uso de nuestros productos ayudaran a mejorar nuestros modelos". Esa frase contiene la pregunta que ahora inquieta a expertos y usuarios por igual.

El interrogante es directo: ¿podrían los chatbots de IA robar una idea de un usuario y ofrecérsela a otro? No existe una respuesta sencilla, en parte porque cada vez sabemos menos sobre cómo funcionan realmente estos sistemas, y en parte porque las compañías que los construyen son deliberadamente opacas respecto a las fuentes de datos que alimentan sus modelos. Julio Gonzalo, catedrático de Lenguajes y Sistemas Informáticos de la UNED, lo resume así: "OpenAI es muy poco transparente respecto a lo que hace con las interacciones con los usuarios". Esa falta de claridad es el punto de partida de toda la inquietud.

Antes de que un modelo de IA pueda funcionar, debe pasar por una fase de entrenamiento. El proceso consiste en aplicar algoritmos a bases de datos gigantescas para que el sistema extraiga patrones y aprenda de forma autónoma. El aprendizaje profundo, una de las estrategias más usadas hoy, aplica redes neuronales directamente sobre conjuntos de datos enormes. Para que esto funcione se necesitan tres cosas: capacidad de computación masiva, algoritmos bien formulados, y bases de datos lo suficientemente grandes y relevantes. Lo último es crucial. Cuanto mejor sean los datos, mejor será el modelo resultante. Y aquí surge un problema práctico: los datos están empezando a escasear. Según estimaciones, el modelo GPT-4 ya se nutrió de prácticamente todos los contenidos de internet, además de muchos otros archivos. Las empresas desarrolladoras de IA buscan desesperadamente nuevas formas de alimentar sus sistemas. "No se sabe del todo qué hacen OpenAI o Anthropic para que sus modelos aprendan. Solo tenemos intuiciones y lo que dicen quienes han trabajado allí", explica Álvaro Barbero, director del AI Lab en Lynx Tech. Lo que sí está claro es que entrenan sobre las conversaciones que la gente mantiene con ellos, aunque en teoría no con todas.

Carlos Gómez Rodríguez, catedrático de Computación e Inteligencia Artificial de la Universidad de La Coruña, señala que "las interacciones con los usuarios son una fuente de información muy valiosa para el entrenamiento de los modelos". Esa información queda integrada con la cantidad inmensa de datos que los modelos poseen, provenientes sobre todo de internet, junto con información que a lo mejor generan los propios trabajadores en las empresas. El escenario hipotético es inquietante: ¿podría un investigador escribir prompts que contengan ideas valiosas, y que esas mismas ideas le aparezcan a otro usuario meses después, cuando esté disponible una nueva versión del modelo actualizada con esas peticiones? "Sobre el papel, podría ser que, si en los prompts con los que se entrena el modelo hay información útil para resolver un problema determinado, se aplique en peticiones posteriores. No es algo que se pueda demostrar al 100%, pero es lógico pensar que sí", indica Gómez. Sin embargo, tampoco existe certeza de que se aprovechen todos los prompts. "Hoy por hoy, no hay forma de saber si algún prompt en particular quedó representado en el modelo. No se puede seguir esa traza, porque en el proceso de entrenamiento se van modificando los pesos del modelo, que son como una enorme matriz de números que realmente ni siquiera podemos interpretar", añade.

El proceso de aprendizaje realiza una especie de compresión con pérdidas. Los prompts más raros y infrecuentes tienen menos probabilidades de ser memorizados bien por el modelo. Pero también sucede lo inverso: cuanto más específica y rara sea la conversación de un nuevo usuario, más probable es que el modelo recuerde conversaciones sobre ese tema raro y específico. "En conjunto, es posible, aunque no inevitable, que las ideas originales que compartes con un modelo puedan acabar siendo utilizadas por otros", concluye Gómez. La paradoja es que mientras más única sea tu idea, más probable es que el modelo la recuerde y la reutilice.

Si lo que escriben los usuarios puede ser usado por el modelo para entrenarse y ser regurgitado posteriormente a otros, ¿deben temer las empresas por la seguridad de sus secretos industriales? La solución de OpenAI y Anthropic está en el pago. "Si usas la versión gratuita, no te dan ninguna garantía de que no vayan a usar tus datos para entrenar, o sea, que probablemente no lo están haciendo", ilustra Barbero. En teoría, si eres una empresa y firmas un acuerdo profesional con OpenAI o Anthropic, existen cláusulas que supuestamente prohíben usar tus conversaciones para mejorar sus modelos. Pero la teoría tiene grietas: Anthropic tuvo que pagar compensaciones a autores de libros cuando se descubrió que habían descargado muchos de sitios piratas. Volviendo a la resolución de grandes problemas matemáticos, Gómez incide en que la IA ya había resuelto otros antes del de Navier-Stokes, y que los expertos en ese problema particular dicen que el modelo también hizo aportaciones originales, no solo siguió líneas de investigación de terceros. Tampoco sería raro que OpenAI estuviera prestando especial atención a las aportaciones en forma de prompts de los usuarios más capaces. "OpenAI está ofreciendo a científicos, matemáticos e ingenieros destacados acceso libre a sus modelos de frontera", apunta Gonzalo. "Pensar que lo hacen de forma altruista sería muy ingenuo, con todo lo que estamos viendo".