Meta, OpenAI y Microsoft dijeron en una conferencia de AMD que utilizarán el último chip de IA de AMD, InstinctMI300X. Es la señal más importante hasta el momento de que las empresas de tecnología están buscando alternativas a los costosos procesadores gráficos Nvidia, que son fundamentales para crear e implementar programas de inteligencia artificial como ChatGPT de OpenAI.
Si los últimos chips de alta gama de AMD son suficientes para satisfacer las necesidades de las empresas de tecnología y proveedores de servicios en la nube que construyen y dan servicio a modelos de IA cuando comiencen a distribuirse a principios del próximo año, podría reducir el costo de desarrollar modelos de IA y ejercer presión competitiva sobre el creciente crecimiento de las ventas de chips de IA de Nvidia.
"Todo el interés se centra en los grandes procesadores y grandes GPU para la computación en la nube", dijo el miércoles la directora ejecutiva de AMD, Lisa Su.
AMD dice que el MI300X se basa en una nueva arquitectura que normalmente resulta en importantes mejoras de rendimiento. Su característica más notable son sus 192 GB de memoria HBM3 de última generación y alto rendimiento, que transfiere datos más rápido y puede acomodar modelos de inteligencia artificial más grandes.
Durante un evento de analistas el miércoles, la directora ejecutiva Lisa Su comparó directamente el InstinctMI300X y el sistema que construye con la principal GPU AI de Nvidia, la H100.
"Este rendimiento se traduce directamente en una mejor experiencia de usuario", afirmó Su. "Cuando le haces una solicitud al modelo, quieres que responda más rápido, especialmente cuando la respuesta se vuelve más compleja".
La principal pregunta que enfrenta AMD es si la compañía, que siempre se ha basado en Nvidia, invertirá tiempo y dinero para agregar otro proveedor de GPU. "La adopción de AMD aún requiere esfuerzo", afirmó Su Zifeng.
AMD dijo a inversores y socios que ha mejorado su paquete de software, llamado ROCm, para competir con el software CUDA estándar de la industria de Nvidia, abordando una falla clave que ha sido una de las principales razones por las que los desarrolladores de IA prefieren actualmente Nvidia.
El precio también es importante: AMD no reveló el precio del MI300X el miércoles, pero los chips de Nvidia cuestan alrededor de 40.000 dólares. Su Zifeng dijo a los periodistas que para convencer a los clientes de que compren, los chips de AMD deben tener costos de compra y operación más bajos que los de Nvidia.
AMD dijo que ha firmado acuerdos para utilizar el chip con algunas de las empresas que más necesitan GPU. Meta y Microsoft serán los dos principales compradores de GPU Nvidia H100 en 2023, según un informe reciente de la firma de investigación Omidia.
Meta dijo que utilizará la GPU InstinctMI300X para manejar cargas de trabajo de inferencia de IA, como el procesamiento de pegatinas de IA, edición de imágenes y asistentes de operación. El director de tecnología de Microsoft, Kevin Scott, dijo que Microsoft utilizará el chip MI300X a través de los servicios de red Azure. La computación en la nube de Oracle también utilizará este chip.
OpenAI dijo que admitirá las GPU de AMD en un producto de software llamado Triton. Triton no es un modelo de lenguaje tan grande como GPT, pero se utiliza en la investigación de inteligencia artificial.
AMD aún no ha pronosticado ventas a gran escala del chip, solo proyecta ingresos totales por GPU para centros de datos de alrededor de 2 mil millones de dólares en 2024. Las ventas de centros de datos de Nvidia superaron los 14 mil millones de dólares solo en su trimestre más reciente, aunque esa cifra incluye otros chips además de las GPU.
Sin embargo, AMD dijo que el mercado total de GPU de IA podría ascender a 400 mil millones de dólares en los próximos cuatro años, el doble del pronóstico anterior de la compañía, una señal de cuán altas son las expectativas para los chips de IA de alta gama y por qué la compañía ahora está centrando la atención de los inversores en su línea de productos. Su Zifeng también dijo a los periodistas que AMD no cree que necesite vencer a Nvidia para lograr buenos resultados en el mercado.
Cuando habló sobre el mercado de chips de inteligencia artificial, dijo a los periodistas: "Creo que está claro que Nvidia tiene que ocupar la gran mayoría ahora". "Creemos que para 2027 esta cifra puede superar los 400.000 millones de dólares. Podemos obtener una buena parte de ello".