Startups huyen de OpenAI y Anthropic por costos prohibitivos, buscan modelos de IA más baratos

Harvey, la startup de servicios legales valorada en 15.600 millones de dólares, construyó su negocio entrenando modelos de inteligencia artificial como GPT-4 de OpenAI para automatizar tareas especializadas de abogados. Pero en marzo pasado, después de actualizar sus agentes de IA, algo cambió de manera dramática. El uso de sus clientes se disparó, lo cual debería haber sido una victoria. En cambio, los márgenes brutos se desplomaron: pasaron de alrededor del 50% a principios de año a un déficit del 50% para junio. Los costos de la IA se habían vuelto insostenibles.

Harvey no está sola. Un grupo cada vez más grande de empresas de software está abandonando su dependencia de los gigantes estadounidenses de la IA —OpenAI y Anthropic— y girando hacia alternativas de código abierto, muchas de ellas procedentes de China. Estas opciones son significativamente más baratas y permiten a las startups entrenar modelos personalizados con sus propios datos, otorgándoles control sobre su tecnología en lugar de externalizarla. Inversores como Sequoia Capital y General Catalyst están respaldando activamente este movimiento, viendo en él una forma de que las empresas reduzcan uno de sus mayores gastos operacionales mientras ganan autonomía tecnológica.

En agosto, Harvey lanzó su propio modelo basado en Kimi K3, desarrollado por la empresa china Moonshot AI, que ofrece un rendimiento comparable al de las mejores soluciones de Anthropic pero a una fracción del costo. Ese cambio, junto con otros ajustes en cómo usa la IA, devolvió los márgenes brutos de Harvey a territorio positivo. Otras startups están siguiendo caminos similares. Abridge, una empresa de tecnología sanitaria, está desarrollando un modelo base personalizado para entornos clínicos usando modelos abiertos de Nvidia. Decagon, una startup de atención al cliente basada en IA, ahora gestiona el 80% de las consultas a través de sus propios modelos. En fintech, empresas como Ramp y Rogo están explorando por primera vez la posibilidad de entrenar sus propios modelos. Cursor, ahora parte de SpaceX, y Cognition, valorada en 48.000 millones de dólares, fueron algunas de las primeras aplicaciones de IA en lanzar modelos a medida.

Karim Atiyeh, codirector ejecutivo de Ramp, explicó que hace un año entrenar modelos propios no tenía sentido económico. Ahora, después de recaudar 750 millones de dólares en junio y con los sistemas de peso abierto mejorando notablemente, la ecuación ha cambiado. "Hace un año no tenía ningún sentido. Ahora empieza a tener mucho más sentido", afirmó. A medida que aumentan los costos de computación, agregó, "es una auténtica imprudencia no pensar en ello y no optimizar en consecuencia".

Pero no todos los inversores están convencidos. Matt Kraning, socio de Menlo Ventures —que respalda a Anthropic— argumenta que crear modelos personalizados no tiene sentido para todas las empresas. Requiere talento especializado costoso y mayores inversiones iniciales. Para algunas, dice, es simplemente marketing. "La pregunta de si se trata de tener o no un modelo propio está muy mal planteada", afirmó. "En la mayoría de los casos, suele tratarse de mucho cosplay".

El cambio hacia modelos de peso abierto tiene riesgos reales. Las preocupaciones sobre privacidad de datos y ciberseguridad han llevado a legisladores estadounidenses a evaluar restricciones a estos modelos. Agencias de seguridad estadounidenses y laboratorios con sede en EE.UU. han acusado a Moonshot y a DeepSeek de destilar IA de laboratorios estadounidenses, un proceso que consiste en entrenar un modelo nuevo y más barato consultando continuamente un modelo maestro anterior. Strib Walker, director de producto de Rogo, explicó que algunos de sus grandes clientes se muestran reticentes respecto a los modelos chinos. Además, el post-entrenamiento de modelos personalizados no es sencillo. Requiere talento especializado en IA que puede cobrar salarios de millones de dólares y ser fácilmente captado por OpenAI y Anthropic. Las empresas también necesitan grandes cantidades de datos propios; de lo contrario, deben estar dispuestas a pagar por ellos. Harvey, que no puede acceder a datos jurídicos confidenciales de sus clientes, recurre a Mercor para adquirir esa experiencia.

No todas las startups han encontrado que valga la pena el esfuerzo. Salespeak anunció planes para desarrollar sus propios modelos de lenguaje a gran escala, pero abandonó el proyecto tras meses de prueba y error. Su cofundador y CEO, Omer Gotlieb, no observó "ventajas significativas" respecto a usar modelos ya disponibles de Anthropic y OpenAI. Andrew Dai, CEO de Elorian, que desarrolla modelos de IA visual, señaló que descargar modelos de código abierto y gestionar la infraestructura para alojarlos puede resultar costoso. Para startups con tráfico reducido, puede ser más económico pagar por un modelo cerrado y una cuota por uso. Aun así, incluso las startups que desarrollan sus propios modelos generalmente no creen que puedan dejar de usar completamente la tecnología de Anthropic u OpenAI. Logan Bartlett, director general de Redpoint Ventures, que ha invertido en Anthropic, Abridge y Ramp, prevé que la presión para reducir dependencia seguirá creciendo. Pero las startups continuarán usando la mejor inteligencia disponible, incluso si les supone un costo. "No van a perjudicarse a sí mismas por capricho", afirmó. Este movimiento amenaza los ingresos de OpenAI y Anthropic justo cuando ambas se preparan para ofertas públicas iniciales muy esperadas.