Nadella advierte: al usar IA, creas inteligencia que no te pertenece

Satya Nadella, director ejecutivo de Microsoft, ha planteado una advertencia incómoda a las empresas que dependen de modelos de inteligencia artificial comerciales: al usar estas herramientas, están creando inteligencia que no les pertenece. En una publicación en su blog personal, Nadella describe lo que llama "la paradoja de la información inversa", un fenómeno que define el dilema central de la era de la IA: el comprador de esta tecnología corre el riesgo de renunciar al conocimiento con tal de poder utilizar lo que ha comprado.

El mecanismo es más sutil de lo que parece a primera vista. Cuando una empresa contrata el uso de ChatGPT, Claude o cualquier otro modelo de IA, realiza dos pagos simultáneamente. El primero es evidente: paga por acceso a la infraestructura del proveedor. El segundo es menos visible pero más costoso: paga con la información que introduce en el sistema para obtener respuestas útiles. Esa información especializada de la organización—sus procesos, sus datos, sus patrones operativos—queda almacenada en los servidores del proveedor de IA. Y allí es donde comienza el problema real.

Los proveedores de IA mejoran continuamente sus modelos mediante un proceso llamado destilación, que consiste en extraer conocimiento de los resultados que ofrecen los modelos. Cuanta más información introduce una empresa en la herramienta, más útil se vuelve para ella, porque el modelo ha aprendido de sus procesos específicos. Pero ese mismo aprendizaje beneficia al proveedor. Como señala Nadella, "al consumir inteligencia, la creas". Ese conocimiento que fluye desde el cliente hacia el proveedor es, en palabras del ejecutivo, "el tipo de conocimiento que un competidor jamás podría comprar, y que se filtra casi imperceptiblemente: rastro a rastro, corrección a corrección, evaluación a evaluación".

La situación se complica aún más cuando los proveedores imponen lo que Nadella describe como "condiciones restrictivas a la extracción de datos". Estas restricciones dificultan o impiden que los usuarios accedan a la inteligencia que han ayudado a crear con sus propios datos. Es un círculo cerrado: la empresa proporciona el conocimiento, el proveedor lo captura y lo mejora, y luego el cliente no puede recuperarlo ni utilizarlo para entrenar sus propios sistemas.

Frente a este panorama, Nadella propone una solución: las empresas deben exigir "el derecho a utilizar los resultados de los modelos para ajustar y/o entrenar sus propios modelos". Ve en la infraestructura en la nube—específicamente en plataformas como Azure, el servicio de nube de Microsoft—el espacio donde las organizaciones pueden construir sus propios entornos de aprendizaje. En estos espacios privados, las empresas podrían entrenar sus propios modelos bajo criterios de privacidad que ellas controlen, manteniendo la propiedad de la inteligencia que generan.

La ironía de esta advertencia no pasa desapercibida: Nadella es el director ejecutivo de Microsoft, y una parte sustancial del negocio de la compañía es precisamente la nube con Azure. Su alegato de que "una empresa debería poder utilizar un modelo sin renunciar al conocimiento que lo hace único" adquiere un significado particular cuando proviene de alguien cuya empresa ofrece exactamente la infraestructura que él está recomendando. Sin embargo, el mensaje subyacente es claro: en el mundo de la IA, la propiedad de los datos y el control sobre el aprendizaje se están convirtiendo en activos competitivos tan valiosos como la tecnología misma. Las empresas que no tomen medidas para proteger su información mientras utilizan sistemas de IA ajenos corren el riesgo de transferir su ventaja competitiva a manos de proveedores que pueden aprender de ellos sin restricción.