La moda corporativa de “tokenmaxxing” en la tecnología de inteligencia artificial está llegando a sus límites a medida que los lugares de trabajo que utilizan IA en todo ven cómo los costos aumentan sin un aumento similar en la productividad.
Lo que comenzó como una exageración primaveral impulsada por la industria tecnológica sobre exprimir la mayor cantidad posible de trabajo generado por IA de productos como ChatGPT de OpenAI y Claude de Anthropic se ha convertido en una reacción violenta de verano.
«Es muy fácil crear algo que no necesitas con IA», dijo Vincent Gusdorf, jefe de análisis de IA en Moody’s Ratings y autor de un nuevo informe que recomienda un enfoque más disciplinado.
«Tokenmaxxing» se refiere a maximizar el uso de tokens, los componentes básicos de la IA generativa que corresponden a pequeños fragmentos de texto que un sistema de IA lee o escribe. Cada ficha equivale aproximadamente a tres cuartos de una palabra. Y normalmente hay un límite en cuanto a la cantidad que puedes usar, y las versiones más caras de productos de IA ofrecen límites más altos.
“A medida que las facturas comenzaron a acumularse, la gente se dio cuenta de que esas nuevas herramientas son bastante caras y es necesario utilizarlas con prudencia”, dijo Gusdorf.
Hace apenas unos meses, los ejecutivos de Silicon Valley promovían un alto consumo de tokens como señal de empleados de alto rendimiento. El estereotipado tokenmaxxer se quedaba despierto hasta tarde, tal vez ignorando a su pareja, mientras orquestaba un ejército de agentes de inteligencia artificial que trabajaban las 24 horas en su nombre.
El director ejecutivo de OpenAI, Sam Altman, dijo en mayo que estaba «emocionado de ver qué sucederá con las nuevas empresas tokenmaxxing, tanto por su forma de trabajar internamente como por los productos que pueden construir».
El director ejecutivo de Nvidia, Jensen Huang, dijo: «si su ingeniero de 500.000 dólares no está quemando 250.000 dólares en tokens, algo anda mal». Meta, matriz de Facebook, tuvo una competencia interna que recompensaba el uso de tokens.
La tendencia aumentó los ingresos de los principales desarrolladores de grandes modelos de lenguajes de IA, como Anthropic y OpenAI, pero fracasó cuando se hizo evidente que no era necesariamente la mejor estrategia para todos los demás.
El director ejecutivo de Microsoft, Satya Nadella, admitió que tokenmaxxing puede ser adictivo, pero advirtió en una publicación de blog reciente que los clientes de esos modelos están pagando dos veces por la IA, primero gastando en tokens y segundo, al proporcionarles todos sus datos patentados. Si bien promovía el propio enfoque de Microsoft, los comentarios de Nadella fueron inusuales en la forma en que planteó dudas sobre las garantías de protección de datos de los principales proveedores de IA.
El director ejecutivo de Palantir, Alex Karp, fue más allá y le dijo a CNBC a principios de este mes que algo había salido “completamente mal”. Dijo que estaba canalizando la voz de las empresas estadounidenses en privado «furiosas» por pagar tanto por tokens que no crean ningún valor.
«La visión básica entre las empresas de este país es: ‘Voy a relajarme y perder el tiempo con tokens. No obtendré ningún valor y ellos se quedarán con mi propiedad intelectual», dijo Karp.
baño & La consultora de gestión empresarial Jue Wang dijo que muchas de las grandes empresas que su firma asesora han estado analizando más de cerca el rendimiento de sus inversiones en IA.
«El costo simbólico para ellos se ha duplicado, casi cada dos meses», dijo. «Digamos 200 dólares por desarrollador al mes. Multiplique eso por 20.000 desarrolladores, que es a menudo con lo que estamos tratando en estas empresas, y eso rápidamente le llevará a una cifra que no es una partida que ningún gerente general haya planeado».
A veces eso simplemente significa no usar el equivalente de IA de un mazo para romper una nuez.
«No todo necesita un Claude Opus 4.6», dijo sobre uno de los modelos más capaces de Anthropic, adecuado para la ingeniería de software o la investigación profunda. «Y, sin embargo, ves tantas empresas, tantos usuarios, que por defecto utilizan Opus para todo, incluida la generación de correos electrónicos».
Esto ha llevado a una búsqueda de herramientas que hagan “enrutamiento de modelos” de IA, en las que las consultas más fáciles se envían automáticamente a sistemas de IA más baratos y eficientes y las tareas más complejas se envían a modelos más potentes.
El desarrollador de software Hassan El Mghari dijo que la sorpresa de las empresas por la “ridícula cantidad de dinero” gastada en suscripciones a productos de inteligencia artificial de empresas líderes de EE. UU. ha llevado a muchas a no recompensar el alto uso.
«Es mejor capacitar a los empleados sobre cómo usar estas cosas y permitirles usar la IA cuando y en la cantidad que necesiten», dijo El Mghari, quien lidera la experiencia de los desarrolladores en la startup Together AI, que proporciona a los desarrolladores una variedad de modelos de IA de «fuente abierta».
Al mismo tiempo, aquellos que favorecen acumular tantos tokens como sea posible se están divirtiendo con nuevos modelos de código abierto de nuevas empresas chinas como Kimi de Moonshot o GLM de Zhipu, que casi igualan las capacidades de los mejores modelos estadounidenses a una fracción del precio.
«Hay cierta validez en la teoría de que esto podría impulsar un poco más el tokenmaxxing», dijo Raffi Krikorian, director de tecnología de Mozilla. «Pero si miramos la industria en general, creo que nos damos cuenta de que tokenmaxxing es una tontería».
Es similar, dijo Krikorian, a cómo las compañías de software alguna vez consideraron cuántas líneas de código escribía un programador como una buena métrica de productividad. Eso luego cayó en desgracia.
«Creo que tokenmaxxing se está moviendo exactamente en el mismo patrón», dijo. «Creo que este será un incidente interesante del que todos miraremos atrás y nos reiremos dentro de un año».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
