El director ejecutivo de Amazon, Andy Jassy, ​​cree que las empresas deberían invertir "agresivamente" en inteligencia artificial ahora para lograr retornos financieros adecuados en el futuro. La carta anual de Jassy a los accionistas de Amazon publicada el juevesZhong dijo que se necesita "mucho capital" para mantener el ritmo de la innovación en IA y la demanda de productos de IA por parte de los clientes. Añadió que Amazon necesita invertir ese dinero ahora si espera obtener un fuerte retorno de la inversión en los próximos años.

Anteriormente, Amazon anunció durante su llamada de resultados del cuarto trimestre en febrero que planeaba invertir más de 100 mil millones de dólares en gastos de capital en 2025. Jassy dijo en ese momento que "la gran mayoría" de la financiación se utilizaría para las capacidades de inteligencia artificial de AWS.

Jassy escribió en una carta a los accionistas: "Siempre hemos creído que la inteligencia artificial es una reinvención única en una generación de todo lo que sabemos. La demanda de ella es como nunca antes la habíamos visto, y nuestra inversión activa ahora beneficiará enormemente a nuestros clientes, accionistas y empresas".

Jassy dijo que los mayores gastos de la IA en este momento son los centros de datos y los chips, pero agregó que con el tiempo el costo de esa infraestructura comenzará a disminuir.

"En AWS, cuanto más rápido crece la demanda, más centros de datos, chips y hardware necesitamos comprar (y los chips de IA son mucho más caros que los chips de CPU)", escribió Jassy. "Ponemos este dinero por adelantado, aunque los activos durarán muchos años".

Jassy señaló los chips Trainium2 de Amazon como un ejemplo de cómo el precio de la infraestructura de IA caerá con el tiempo. Añadió que los chips son entre un 30% y un 40% más rentables que las instancias informáticas impulsadas por GPU que se utilizan habitualmente en la actualidad. Trainium2 se lanzará a finales de 2024.

Jassy también dijo que la dinámica de los precios de la IA cambiará en el futuro a medida que los costos de capacitación en IA caigan y los fondos se desplacen hacia modelos de IA de inferencia o de servicios reales.

"Necesitamos urgentemente reducir el coste de la inferencia para nuestros clientes", escribió Jassy. "Los chips más rentables ayudarán. Y con mejoras en la destilación de modelos, el almacenamiento en caché rápido, la infraestructura informática y la arquitectura de modelos, la eficiencia de la inferencia también aumentará significativamente en los próximos años".

Jassy dijo en una carta a los accionistas que Amazon está desarrollando actualmente más de 1.000 aplicaciones de IA generativa. Añadió que los ingresos por IA de Amazon están creciendo a una tasa anual de "tres dígitos", con una tasa de ingresos anuales de "miles de millones de dólares".