Google lanzó recientemente una nueva biblioteca de JavaScript, LiteRT.js, diseñada para mejorar significativamente la velocidad de procesamiento de las cargas de trabajo de aprendizaje automático e inteligencia artificial en el lado del navegador web. Este movimiento indica que Google está llevando su tiempo de ejecución LiteRT optimizado para dispositivos móviles a la plataforma web, permitiendo que los modelos de IA se ejecuten de manera eficiente directamente en el entorno del navegador local sin depender del procesamiento del lado del servidor.
En comparación con TensorFlow.js existente, LiteRT.js muestra ventajas de rendimiento obvias. Se informa que la biblioteca utiliza la tecnología WebAssembly e integra profundamente interfaces de aceleración de hardware como WebGPU y WebNN para reemplazar el anterior TensorFlow.js basado en el kernel de JavaScript, logrando así capacidades informáticas más eficientes. Las pruebas realizadas por Google en el MacBook Pro 2024 equipado con el chip M4 muestran que la velocidad de procesamiento de este nuevo tiempo de ejecución es tres veces mayor que la de la solución existente.
Anteriormente, el tiempo de ejecución de LiteRT servía principalmente para plataformas móviles Android e iOS. Con esta actualización, los desarrolladores ahora pueden obtener capacidades de implementación de IA más potentes en la web a través de WebAssembly. Para los desarrolladores que utilizan TensorFlow.js, el proceso de migración es relativamente sencillo. Si ya tiene un archivo .tflite, sólo necesita cambiar el tiempo de ejecución de JavaScript a LiteRT.js; Si está utilizando el formato TensorFlow/Keras SavedModel, puede adaptarlo a través del convertidor LiteRT integrado en el paquete Python TensorFlow.
El lanzamiento despertó interés en la industria, y muchos comenzaron a especular si Google eliminaría gradualmente o quitaría prioridad al soporte para TensorFlow.js y esperaban ver cómo funcionaría realmente la biblioteca en una gama más amplia de dispositivos más allá del hardware de Apple.