Microsoft advierte: al usar IA ajena, creas inteligencia que no te pertenece

Satya Nadella, el director ejecutivo de Microsoft, ha planteado una pregunta incómoda a las empresas que confían sus operaciones a modelos de inteligencia artificial comerciales: ¿quién realmente posee lo que estás creando cuando usas estas herramientas?

El problema que Nadella identifica es lo que él llama "la paradoja de la información inversa". Cuando una empresa contrata el acceso a ChatGPT, Claude o cualquier otro modelo de IA, realiza dos transacciones simultáneamente. La primera es obvia: paga una suscripción o tarifa de uso. La segunda es menos visible pero potencialmente más costosa. Para que la herramienta sea útil, la empresa debe alimentarla con información especializada sobre sus procesos, sus clientes, sus estrategias, sus datos internos. Esa información no desaparece después de generar una respuesta. Permanece en los servidores del proveedor de IA.

Lo que sucede después es donde reside el verdadero riesgo. Los proveedores de inteligencia artificial utilizan un proceso llamado destilación para mejorar continuamente sus modelos. Extraen conocimiento de las interacciones que tienen con cada cliente, aprendiendo de los patrones, las correcciones, las evaluaciones. Una empresa que introduce información sobre sus procesos de manufactura, sus métodos de atención al cliente o sus estrategias comerciales está, sin saberlo completamente, entrenando el modelo del proveedor. Ese conocimiento se filtra "casi imperceptiblemente: rastro a rastro, corrección a corrección, evaluación a evaluación", en palabras de Nadella.

La ironía es profunda. Al consumir inteligencia, la empresa la está creando. Está generando valor que el proveedor puede capturar, refinar y potencialmente vender a otros clientes o competidores. Es el tipo de conocimiento que ningún competidor podría comprar directamente, pero que se transfiere de todas formas a través del proceso normal de uso. Y cuando las empresas intentan recuperar acceso a esa inteligencia que ellas mismas crearon, los proveedores imponen "condiciones restrictivas a la extracción de datos" que lo hacen difícil o imposible.

Nadella propone una alternativa: las empresas deben exigir el derecho fundamental a utilizar los resultados de los modelos para entrenar y ajustar sus propios modelos. En lugar de depender indefinidamente de un proveedor externo, las organizaciones deberían construir sus propios entornos de aprendizaje en la nube, bajo su propio control y bajo criterios de privacidad que ellas establezcan. La nube, en esta visión, se convierte en la infraestructura que permite a las empresas mantener la propiedad de su conocimiento mientras aprovechan la tecnología de IA.

Hay una ironía adicional en quién está haciendo esta advertencia. Nadella dirige Microsoft, una empresa cuyo negocio de nube, Azure, es precisamente la infraestructura que él está recomendando que las empresas utilicen para entrenar modelos propios. Su argumento gana peso precisamente porque tiene algo que ganar con él. Pero también señala un cambio más profundo en cómo la industria está comenzando a pensar sobre la propiedad de datos y la inteligencia artificial. La pregunta ya no es solo si usar IA es seguro o efectivo. Es quién controla lo que se crea en el proceso.