El modelo grande de código abierto de la empresa de inteligencia artificial de Kai-Fu Lee, Zero One Wanxian, fue acusado de utilizar completamente la arquitectura LLaMA y solo modificó los nombres de dos tensores. Al respecto, Lingyiwu dijo: GPT es una arquitectura madura reconocida en la industria, Llama hizo un resumen sobre GPT.
El diseño estructural del gran modelo de I+D de Zero One Thousand Things se basa en la estructura madura de GPT y se basa en los resultados públicos de alto nivel de la industria. Dado que el desarrollo de la tecnología de modelos grandes aún se encuentra en sus primeras etapas, una estructura que sea consistente con la corriente principal de la industria es más propicia para la adaptación general y las iteraciones futuras. Al mismo tiempo, el equipo de 01Wanyuan ha trabajado mucho para comprender el modelo y la capacitación, y también continúa explorando avances esenciales a nivel de estructura del modelo.
Artículos relacionados: