Resumen:
Hoy se lanzó el último modelo de lenguaje flash Hy4 de Tencent Hunyuan. La cantidad total de parámetros del modelo es 224B (incluidos los parámetros de engramas 64B), los parámetros de activación son solo 12B y admite multimodalidad y una longitud de contexto de 1M. Hy4 flash es el modelo Hy más rentable hasta la fecha: la entrada es de 0,5 yuanes por millón de tokens, la salida es de 2 yuanes y solo se necesitan 0,02 yuanes para acceder al caché. El precio es significativamente más bajo que el Hy4.
>
Según los informes, para lograr la máxima rentabilidad teniendo en cuenta el nivel de inteligencia y practicidad, el equipo de Hunyuan ha realizado una serie de trabajos:
En la etapa previa al entrenamiento, Hy4 flash agrega características arquitectónicas como atención híbrida, LatentMoE y Engram. El tamaño de la caché de KV es solo 1/24 de Hy3 y 1/6 de Hy4, y una gran cantidad de experimentos de escala aseguran que el efecto cumpla con las expectativas.
En la etapa posterior al entrenamiento, se obtiene un fuerte nivel de inteligencia integral mediante la autodestilación Hy4, y luego la duración de la producción de la tarea de un extremo a otro se reduce en un 50% mediante el aprendizaje por refuerzo.
En la fase de evaluación, se construyó un conjunto de evaluación interna WorkIndex basado en tareas típicas de WorkBuddy, combinado con revisiones humanas, para centrarse en los efectos del producto en el trabajo diario, la duración de la producción de una sola ronda y el tiempo de un extremo a otro, en lugar de puntuaciones de listas públicas que están lejos del trabajo diario.
En la etapa de inferencia, combinada con megakernel, cuantificación de 4 bits, dflash y otros medios para una optimización extrema, la velocidad de decodificación flash Hy4 supera los 150 tps y se puede implementar y operar a gran escala a bajo costo.
Al final, Hy4 flash es ligeramente mejor que la vista previa de Hy4 con parámetros más grandes en términos de efecto general (los parámetros totales son 770B, los parámetros de activación son 49B), pero el costo es significativamente menor. Según cálculos exhaustivos basados en el conjunto de evaluación interna WorkIndex (que cubre tareas típicas de WorkBuddy como producción y modificación de PPT, edición de documentos, reparación de tablas, procesamiento de audio y video y comprensión visual), el costo de una sola tarea de Hy4 flash es solo 1/13 de la vista previa de Hy4, 1/20 de Hy4 y 1/8 de DeepSeek-V4.1-Flash-1027 (nivel máximo, precio de hora ocupada).
Se informa que Hy4 flash se lanzó en Tencent Cloud TokenHub, WorkBuddy, Yuanbao, Enterprise WeChat, QQ, ima, Marvis y otros productos, y pronto se conectará a OpenRouter. Antes del 30 de noviembre, los usuarios pueden usar WorkBuddy de forma gratuita por tiempo limitado y usar la API Tencent Cloud TokenHub con un 50% de descuento por tiempo limitado.
Comentarios