Resumen:
Google anunció recientemente la expansión de su línea de productos de chips de inteligencia artificial y el lanzamiento de dos nuevas unidades de procesamiento tensorial (TPU) diseñadas específicamente para diferentes escenarios de aplicaciones, denominadas TPU 8tx y TPU 8i Max. Estos dos productos se desarrollan sobre la base de la arquitectura TPU de octava generación existente de Google y están diseñados para satisfacer las crecientes necesidades de los clientes empresariales en materia de seguridad de datos y tareas de inferencia de inteligencia artificial a gran escala.
Entre ellos, TPU 8tx se centra en industrias con requisitos extremadamente altos de protección de la privacidad y seguridad de los datos, incluidas agencias gubernamentales, servicios financieros, salud médica y otros campos estrictamente regulados. Google dijo que el producto introduce capacidades informáticas confidenciales para proteger los pesos de los modelos y la información confidencial durante el procesamiento de datos para evitar la exposición a accesos no autorizados.
Para lograr este objetivo, TPU 8tx trabaja en conjunto con procesadores AMD e integra profundamente funciones de cifrado en el nivel de hardware. A diferencia de las soluciones tradicionales que requieren descifrar datos en la memoria antes de realizar cálculos, la nueva solución puede mejorar significativamente la seguridad durante el procesamiento de datos confidenciales y satisfacer las necesidades de las empresas de implementar sistemas de inteligencia artificial de alta seguridad.
Otro producto nuevo, TPU 8i Max, está especialmente diseñado para aplicaciones de modelos grandes que requieren ventanas de contexto extremadamente largas. En los últimos años, con el rápido desarrollo de la inteligencia artificial generativa y la tecnología de agentes de IA, cada vez más modelos necesitan procesar cantidades masivas de texto, código o datos al mismo tiempo, lo que impone mayores requisitos en cuanto a capacidad de memoria y rendimiento de inferencia.
Según los informes, TPU 8i Max puede admitir ventanas de contexto más largas al mejorar la potencia informática y los recursos de memoria, lo que permite que los modelos de inteligencia artificial analicen más contenido en una sola solicitud. Esta capacidad es particularmente importante para escenarios como la generación de códigos complejos, el razonamiento matemático, la investigación científica y el desarrollo de fármacos. Puede ayudar al modelo a retener más información básica y mejorar la calidad de la finalización de la tarea.
Amin Wahdat, jefe de infraestructura de IA de Google, dijo que estos dos chips no son productos de nueva arquitectura, sino modelos derivados basados en el TPU de octava generación existente que están especialmente optimizados para satisfacer las necesidades de los clientes. La compañía cree que en lugar de desarrollar un chip de uso general que intente cubrir todas las necesidades del mercado, es mejor crear múltiples versiones profesionales para escenarios específicos para brindar a los usuarios un mayor valor.
A principios de este año, Google lanzó TPU 8t y TPU 8i en la serie TPU de octava generación. El primero está orientado a tareas de entrenamiento de modelos a gran escala, mientras que el segundo está optimizado para inferencias de baja latencia. Con la incorporación de TPU 8tx y TPU 8i Max a la línea, la familia TPU de octava generación de Google se ha ampliado a cuatro productos, cubriendo múltiples segmentos como entrenamiento de modelos, inferencia segura, inferencia de baja latencia e inferencia de contexto ultralarga.
Los analistas señalaron que el lanzamiento de este nuevo producto refleja que la infraestructura de inteligencia artificial está pasando de perseguir únicamente la escala de potencia informática a satisfacer necesidades comerciales más reales. A medida que los agentes de IA, la IA generativa a nivel empresarial y los modelos de contexto largo se vuelven cada vez más populares, la seguridad, la capacidad de la memoria y la eficiencia del razonamiento se están convirtiendo en nuevos focos competitivos después de la potencia informática.
Google desarrolló originalmente TPU principalmente para respaldar sus propios servicios de inteligencia artificial, y ahora se ha abierto a clientes externos para alquilarlo como una parte importante de su negocio de computación en la nube. Actualmente, TPU se ha convertido en una de las plataformas informáticas de IA más importantes, además de las GPU de NVIDIA, y muchas grandes empresas de inteligencia artificial y clientes de computación en la nube la utilizan para entrenar e implementar modelos avanzados.
Con el lanzamiento del nuevo modelo, Google espera mejorar aún más su competitividad en el mercado de infraestructura de inteligencia artificial y proporcionar soporte de hardware subyacente más específico para agentes de IA de próxima generación y sistemas de razonamiento complejos.
Comentarios