El 15 de noviembre, el CMO de Sinovation Ventures publicó en WeChat Moments en respuesta al incidente de "plagio de LLaMA" del modelo Yi. Dijo que Zero One Wish publicó instrucciones para entrenar el modelo Yi-34B en respuesta a las opiniones públicas sobre la arquitectura del modelo.El CMO de Sinovation Ventures emitió un comunicado diciendo que seguir la evolución de la industria y convertirse gradualmente en una infraestructura universal y ecológica se ha convertido en una "maqueta e imitación". (Al igual que los desarrolladores de aplicaciones móviles se benefician de la arquitectura común de iOS y Android). Lingyiwanwu seguirá aprendiendo humildemente de la comunidad y seguirá progresando.
Según la descripción, Zero Yiwu entrenó los modelos Yi-34B y Yi-6B desde cero, volvió a implementar el código de entrenamiento de acuerdo con el marco de entrenamiento real y utilizó una canalización de datos de construcción propia para construir un conjunto de datos de entrenamiento de alta calidad (desde la selección de datos originales de 3PB hasta datos de alta calidad de 3Ttoken).
Durante el proceso inicial de código abierto de Zero One Thousand Things, descubrimos que usar la arquitectura LLaMA, que se usa comúnmente en la comunidad de código abierto, sería más amigable para los desarrolladores. En cuanto a la negligencia de utilizar algunos de los códigos de razonamiento de LLaMA después del experimento y el cambio de nombre, el punto de partida original fue probar completamente el modelo, no ocultar deliberadamente la fuente.Lingyiwuwu dio una explicación sobre esto y expresó sus más sinceras disculpas., estamos en el proceso de volver a enviar modelos y códigos a varias plataformas de código abierto y complementar copias del protocolo LLaMA, y prometemos completar las actualizaciones de versión de cada comunidad de código abierto lo antes posible.
Artículos relacionados: