NVIDIA lanzó recientemente oficialmente CUDA 13.1, que el funcionario posicionó como "la actualización más grande y completa desde el nacimiento de la plataforma CUDA en 2006".Lo más destacado de esta actualización es la introducción del revolucionario modelo de programación CUDA Tile, que marca que el paradigma de programación de GPU ingresa a una nueva etapa de mayor abstracción.

La programación de GPU tradicional se basa en el modo SIMT (Single Instrucción Multi-Threading), y los desarrolladores deben prestar atención a detalles de bajo nivel como subprocesos, memoria y sincronización.

CUDA Tile es un modelo basado en mosaicos (mosaicos, bloques de datos). Los desarrolladores ahora pueden centrarse en organizar datos en bloques y realizar cálculos en estos bloques de datos.El compilador y el tiempo de ejecución manejarán automáticamente el complejo trabajo subyacente de programación de subprocesos, diseño de memoria y mapeo de recursos de hardware.

Para admitir la programación Tile, CUDA 13.1 introdujo el conjunto de instrucciones virtuales (Tile IR) y lanzó la herramienta cuTile para permitir a los desarrolladores usar Python para escribir un kernel de GPU basado en Tile.

Esto reduce en gran medida el umbral para la programación de GPU, lo que permite a los científicos e investigadores de datos que no están familiarizados con CUDA C/C++ tradicional o los modelos SIMT subyacentes escribir código acelerado por GPU.

La programación en mosaico no reemplaza a SIMT, pero proporciona una ruta alternativa coexistente. Los desarrolladores pueden elegir de manera flexible el modelo de programación más apropiado según escenarios de aplicación específicos.

La importancia de CUDA 13.1 radica no solo en agregar nuevas funciones u optimizar el rendimiento, sino también en sentar las bases para construir una nueva generación de bibliotecas y marcos de computación GPU de arquitectura cruzada de alto nivel. Al introducir Tile IR y la abstracción de alto nivel, NVIDIA ha agregado una capa intermedia más gruesa entre el hardware y el software.

En el pasado, los competidores (como ROCm de AMD y OneAPI de Intel) dependían principalmente de la capa de compatibilidad para la traducción de código CUDA, pero para el nuevo modelo de mayor abstracción de CUDA Tile, la traducción de código simple ya no es suficiente.

Los competidores deben crear compiladores igualmente inteligentes para manejar Tile IR, lo que sin duda aumenta la dificultad de la alineación de la tecnología y objetivamente aumenta aún más la rigidez y el bloqueo del usuario del ecosistema CUDA.