Resumen:
Según Bloomberg, Harvey es una startup estadounidense de tecnología jurídica valorada en 15.600 millones de dólares. El núcleo de su negocio es entrenar modelos de IA como OpenAI GPT-4 para completar el trabajo profesional de los abogados. Sin embargo, el reciente aumento de los costos de la IA está llevando a la empresa a reconsiderar su dependencia de estos gigantes de la IA.
Harvey usa Kimi K3 para construir su propio modelo
Según una persona familiarizada con el asunto, después de actualizar su agente de inteligencia artificial en marzo, el uso de Harvey por parte de los clientes aumentó, pero su margen de beneficio bruto cayó drásticamente, de alrededor del 50% a principios de año al -50% en junio.
Hoy, la startup se une a un número creciente de empresas de software que adoptan modelos ponderados abiertos, incluidas alternativas cada vez más capaces de China. Estos modelos suelen ser más baratos que la tecnología patentada de los desarrolladores de inteligencia artificial de EE. UU. y permiten a empresas como Harvey crear modelos personalizados utilizando sus propios datos.
Instituciones de inversión como Sequoia Capital y General Catalyst están apoyando esta tendencia. Esto no sólo ahorra uno de los mayores costos para las empresas, sino que también les brinda más control sobre su propia tecnología, en lugar de subcontratarla a OpenAI y Anthropic.
La medida podría afectar los ingresos del gigante de la IA mientras OpenAI y Anthropic se preparan para las tan esperadas OPI. Al mismo tiempo, a medida que continúa calentándose el debate sobre la necesidad de frenar el desarrollo de la IA de vanguardia, para algunas empresas emergentes, la adopción de modelos de peso abierto también es una forma de prepararse para un día lluvioso en caso de que el desarrollo de los modelos de IA más avanzados pueda ralentizarse o restringirse en el futuro.
Modelo abierto
Harvey lanzó su propio modelo en agosto, impulsado por el Kimi K3, propiedad del lado oscuro de la Luna de China. El Kimi K3 tiene un rendimiento similar al de los modelos más avanzados de Anthropic, pero cuesta significativamente menos. El lanzamiento del modelo, junto con otros ajustes que Harvey ha hecho en la forma en que utiliza la IA, ha hecho que el margen de beneficio bruto de la empresa vuelva a ser territorio positivo, dijeron personas familiarizadas con el asunto. Harvey se negó a comentar sobre cifras financieras específicas para este artículo.
Del mismo modo, la startup de tecnología sanitaria Abridge anunció recientemente que está entrenando un modelo base personalizado para escenarios clínicos basado en el modelo abierto de NVIDIA. Decagon, una startup de servicio al cliente de IA, dijo que el 80% de sus consultas se manejan actualmente a través de su propio modelo. En el ámbito fintech, empresas emergentes como Ramp y Rogo están explorando la posibilidad de entrenar sus propios modelos por primera vez. Entre las empresas de programación, Cursor, que ahora forma parte de SpaceX, y Cognition, valorada en 48.000 millones de dólares, fueron las primeras empresas de aplicaciones de IA en lanzar modelos personalizados.
El codirector ejecutivo de Ramp, Karim Atiyeh, dijo que antes era demasiado costoso para Ramp construir un modelo de construcción propia, pero después de recaudar 750 millones de dólares en junio, la compañía está considerando hacerlo porque el sistema de peso abierto ha logrado grandes avances. "Hacer esto hace un año no tenía absolutamente ningún sentido y ahora está empezando a tener mucho más sentido".
Atiye dijo que a medida que aumenta el costo de la potencia informática, "es completamente irresponsable no considerar este asunto y optimizarlo". Su empresa está actualmente negociando para incorporar más capital.
Sin embargo, no todos los inversores están de acuerdo con esta tendencia. Matt Kraning, socio de Menlo Ventures, inversor de Anthropic, cree que no todas las empresas son aptas para desarrollar modelos personalizados porque requiere talento especializado y tiene mayores costes iniciales. Para algunas empresas, no es más que una estrategia de marketing, afirmó.
"¿Tiene su propio modelo? Esta pregunta en sí misma es incorrecta. En la mayoría de los casos, esto es sólo una simulación". Dijo Kranin.
Comentarios