En los últimos días, la industria de la IA seguía alentando a las empresas a "gastar sus presupuestos", pero ahora está recurriendo rápidamente a un modelo de "estrangulamiento", porque las empresas han descubierto que incluso si solo utilizan la IA para manejar algunas tareas pequeñas, pueden gastar fácilmente una gran cantidad de tarifas simbólicas, pero es posible que no obtengan el mismo rendimiento. Cada vez más empresas están comenzando a restringir el uso de herramientas de IA por parte de los empleados, y las empresas están entrando en una etapa llamada "racionamiento de tokens", que es el racionamiento de los recursos de IA.
La consultora Accenture intentó recientemente impedir que los empleados utilicen IA para realizar tareas básicas, como convertir archivos PDF en presentaciones, para evitar utilizar demasiados tokens. Este endurecimiento se produjo no hace mucho, cuando Accenture advirtió a los empleados que no utilizar la IA podría perjudicar las oportunidades de ascenso. En una grabación de una reunión interna filtrada citada por 404 Media, el juez Kwak, jefe de estrategia de inteligencia artificial de Accenture, dijo que la compañía ha llegado a un punto de inflexión en el que la inteligencia artificial está comenzando a impactar significativamente la estructura de costos y la gerencia todavía se pregunta si la inversión realmente vale la pena.
Los costos de los tokens han comenzado a sacudir el modelo de negocio de la IA. En los últimos meses, los precios de las acciones y las valoraciones de las empresas relacionadas con la IA se han visto bajo presión, y algunas empresas que dependen en gran medida de la IA son las más afectadas, especialmente los fabricantes de chips de memoria. La industria está empezando a darse cuenta de que la IA no puede respaldarse con "frescura" y "entusiasmo conceptual". En última instancia, debe demostrar que realmente puede aportar valor financiero.
En términos más generales, las empresas están ajustando colectivamente sus estrategias internas de IA. Muchas empresas han comenzado a establecer límites de uso semanales o mensuales para los empleados, o a asignar diferentes presupuestos de tokens a diferentes puestos; Algunas empresas también enviarán recordatorios cuando el uso esté cerca del límite, lo que permitirá a los empleados solicitar cuotas adicionales. Detrás de este enfoque está el hecho de que proveedores de servicios como OpenAI, Anthropic y GitHub han ajustado recientemente sus métodos de fijación de precios, pasando de un modelo que originalmente se parecía más a un modelo de "uso mensual ilimitado" a uno que enfatiza la facturación basada en el consumo real de tokens.
El informe también señaló que muchas tareas aparentemente simples en realidad no son baratas de implementar en modelos avanzados. Por ejemplo, descargar análisis complejos a un modelo grande que se ejecuta durante mucho tiempo puede costar fácilmente más de 100 dólares; un análisis de vulnerabilidad a gran escala de toda la base del código puede incluso costar entre 50.000 y 100.000 dólares. Es por eso que algunas empresas han comenzado a descargar tareas básicas a modelos menos potentes y de menor costo, e incluso a mezclar productos de diferentes fabricantes para controlar los gastos.
Desde una perspectiva de gestión empresarial, este cambio significa que la IA está pasando de “fomentar usos múltiples” a “cuotas finas”. Para los empleados, el acceso a la IA ya no es sólo una cuestión de eficiencia sino también una cuestión de gestión presupuestaria; Para los CFO, COO y CIO, la IA ahora debe medirse con tanta rigurosidad como otros costos básicos. Esto también indica que la primera ronda de entusiasmo por la IA empresarial está retrocediendo, reemplazada por una nueva etapa que es más pragmática y se preocupa más por los insumos y los resultados.