Resumen:
DeepSeek lanza el modelo grande V4.1 Flash-1017. En un momento en el que el mercado espera con ansias la actualización de los grandes modelos nacionales de IA, DeepSeek es el primero en lanzar una nueva versión. Esta actualización trae importantes mejoras de rendimiento.
Los niveles de rendimiento específicos y los cambios se han informado anteriormente. Debes tener en cuenta que DeepSeek también ha publicado esta vez una curva de Pareto, que a menudo se denomina línea de destrucción de la IA. V4.1 Flash-1017 está a un nivel divino esta vez. El coste por tarea está sólo entre 1/50-1/100 en modelos grandes como Fable y Astra, y la relación precio/rendimiento es al menos cuarenta o cincuenta veces mayor.
¿Cómo logró DeepSeek tal línea de muerte? Todo el mundo sabe que tiene sólidas capacidades de optimización de la IA y que puede hacer todo lo posible para reducir costes. La siguiente imagen publicada por vllm_project puede mostrar claramente cuán fuerte es DeepSeek en la optimización del hardware de IA.
Esta imagen compara la prueba comparativa de SemiAnalysis AgentX. En las plataformas GB300 NVL72 y Dynamo vLLM, V4.1 Flash obtuvo una puntuación de 1.300 millones de tokens por 1 dólar estadounidense y la velocidad de interacción del P90 superó los 100 tok/s/usuario.
1 dólar estadounidense equivale a 1.300 millones de tokens, por lo que 1 millón de tokens solo cuesta 0,00077 dólares estadounidenses, que es mucho más barato que el precio de entrada de V4.1 Flash de 0,15 dólares estadounidenses.
Por supuesto, estos dos precios no se pueden convertir de forma tan sencilla. El costo Tco de 1 USD y 1,3 mil millones de tokens está en el lado de la potencia informática, y el precio de la API debe tener en cuenta situaciones más complejas. Sin embargo, el coste ultrabajo de DeepSeek les otorga una ventaja inigualable en este sentido.
Debido a que DeepSeek V4.1 Flash tiene una increíble ventaja de costos, las principales plataformas se atreven a ofrecer cargos ultrabajos. El uso del paquete de 10 dólares de OpenCode y CommandCode ha alcanzado recientemente entre 80 y 120 dólares. OpenCode ha sido gratuito y abierto en los últimos dos días. Ahora el uso de Flash V4.1 en la plataforma de enrutamiento agregada está en el nivel de 100 mil millones de tokens, y una empresa puede igualar el uso de seis o siete amigos.
Deje que AI compare los costos TCO de múltiples modelos grandes de código abierto. La salida de otros modelos grandes con un billón de parámetros es como máximo 1/10 de V4.1 Flash. Si se trata de un modelo grande con entre 1,5 y 3 billones de parámetros, la diferencia de costo puede alcanzar más de 40 a 50 veces, lo cual es completamente incomparable.
También cabe señalar que el costo TCO sigue siendo el de V4.1 Flash-0910, no el de la versión 1017 lanzada hoy. Aunque el precio de la API de este último no ha cambiado, ha optimizado en gran medida la eficiencia del token y reducido el consumo del token. El grado varía en diferentes tareas. En términos de somatosensorial, el consumo se ha reducido al menos a la mitad, lo que significa que el coste TCO se puede volver a reducir considerablemente.
Comentarios