Alibaba Cloud anunció hoy que Alibaba Cloud PAIModelGallery admite la implementación con un solo clic de DeepSeek-V3 y DeepSeek-R1 en la nube.Los usuarios pueden realizar todo el proceso, desde el entrenamiento del modelo hasta la implementación y la inferencia, a través de la plataforma Alibaba Cloud sin escribir código, lo que simplifica enormemente el proceso de desarrollo del modelo de IA.
Según la introducción oficial, el proceso de implementación con un solo clic del modelo DeepSeek es muy simple y solo requiere los siguientes 3 pasos:
Inicie sesión en la consola PAI, seleccione la lista de espacios de trabajo en la barra de navegación izquierda, haga clic en el nombre del espacio de trabajo especificado para ingresar al espacio de trabajo correspondiente y finalmente seleccione Inicio rápido > Galería de modelos en la barra de navegación izquierda.
Ingrese a la página de detalles del modelo DeepSeek. En la lista de modelos en la página ModelGallery, haga clic para buscar y haga clic en la tarjeta de modelo que debe implementarse, como el modelo "DeepSeek-R1-Distill-Qwen-7B", para ingresar a la página de detalles del modelo.
Implemente el servicio de generación de modelos DeepSeek con un solo clic. Haga clic en Implementar en la esquina superior derecha: Actualmente, DeepSeek-R1 admite la implementación acelerada de vLLM; DeepSeek-V3 admite la implementación acelerada de vLLM y la implementación de aplicaciones web; El modelo pequeño de destilación DeepSeek-R1 admite la implementación acelerada de BladeLLM y vLLM.
Después de una implementación exitosa, puede hacer clic en "Ver información de llamada" en la página del servicio para obtener el punto final y el token de la llamada. Si desea saber cómo llamar al servicio, puede hacer clic en el enlace del modelo previamente entrenado y regresar a la página de introducción del modelo para ver la descripción del método de llamada.
Sin embargo, cabe señalar que el modelo implementado en este tutorial es el DeepSeek-R1-Distill-Qwen-7B destilado. Basado en las capacidades de inferencia de DeepSeek-R1, el modo de inferencia se migra al modelo Qwen más pequeño mediante tecnología de destilación.
Al mismo tiempo, Alibaba Cloud PAIModelGallery también proporciona implementación con un solo clic de los modelos originales DeepSeek-R1 y DeepSeek-V3.