La infraestructura heredada, no los modelos en sí, es lo que realmente está frenando a los agentes de IA. Esa fue la conclusión compartida de tres líderes de infraestructura: de LinkedIn, Walmart y Zendesk. en Transformación VB 2026.
El panel reunió a Animesh Singh, director senior de plataforma e infraestructura de IA en LinkedIn, Desiree Gosby, vicepresidenta senior de servicios de tecnología corporativa y estrategia tecnológica en Walmart, y Sami Ghoche, vicepresidente de IA aplicada en Zendesk, cada uno de los cuales describió lo que realmente falló cuando trasladaron a los agentes del piloto a la producción. Cada uno llegó a la misma conclusión desde un punto de partida diferente: ninguno de los cuellos de botella que encontraron eran problemas de modelo.
Lo que unió sus respuestas fue una premisa compartida: la mayor parte de la infraestructura empresarial se construyó para cómo trabajan los humanos, no para cómo trabajan los agentes. La brecha entre esas dos velocidades es donde ocurrió la verdadera ingeniería.
Gosby lo expresó claramente cuando se le preguntó qué había aprendido acerca de cómo escalar agentes dentro de la propia fuerza laboral de Walmart. El objetivo, dijo, es garantizar que «la ingeniería no vuelva a convertirse en el cuello de botella de lo que estamos tratando de hacer».
¿Dónde estaba realmente el cuello de botella?
Cada empresa se topó con una versión diferente del mismo muro: la infraestructura diseñada para la forma en que trabajan las personas no se sostiene una vez que los agentes hacen el trabajo.
En LinkedIn, el primer cuello de botella no fue un modelo, fue Kubernetes, que supone que los contenedores giran según la demanda, un proceso que lleva unos segundos. Singh dijo que eso es demasiado lento para los agentes. La solución fue pasar del aprovisionamiento bajo demanda a grupos de contenedores preaprovisionados que intercambian cargas de trabajo agentes dentro y fuera en tiempo real.
Un segundo problema, más complicado, surgió una vez que LinkedIn permitió a los agentes controlar su propia orquestación. Un sistema de evaluación de cinco puntos parecía limpio, pero las alucinaciones seguían apareciendo de todos modos. Singh dijo que el problema era estructural: un LLM que evalúa el resultado de otro LLM comparte el mismo modo de falla que el objeto que está evaluando.
«Construimos nuestro propio arnés, nuestro propio flujo de control, y empujamos a los LLM a la hoja en lugar de que ellos orquestaran el bucle», dijo Singh. Aproximadamente el 80% del flujo de trabajo ahora es código determinista y programado, con LLM utilizados solo cuando se requiere razonamiento, y la evidencia de cada paso se guarda en el disco antes de que el sistema avance.
El cuello de botella de Walmart provino del éxito. Un arnés de agentes puesto directamente en manos de los empleados se volvió viral internamente, y lo que Gosby llamó «desarrolladores ciudadanos» comenzaron a construir sus propios agentes para resolver problemas que alguna vez requirieron una hoja de ruta de ingeniería formal. La ventaja fue una verdadera innovación. La desventaja fue la duplicación, docenas de agentes superpuestos sin coordinación. La solución no era controlar el arnés, sino desarrollar la gobernanza para detectar duplicaciones, promover la mejor versión de un agente y ponerlo en producción sin que la ingeniería se convirtiera en un cuello de botella.
Zendesk encontró su cuello de botella en el lado de los datos. Ghoche, que se unió a través La adquisición de Forethought por parte de Zendeskque cerró en marzo de 2026, describió lo que llamó una cifra pública de 20 mil millones de conversaciones de clientes en el repositorio de Zendesk. El instinto es entregar esa historia a un modelo de lenguaje grande con una gran ventana de contexto y dejar que genere los agentes que una empresa necesita. Ghoche dijo que eso no funciona. «Realmente no se puede hacer eso, por lo que hay que invertir realmente en los canales de datos subyacentes y en toda la infraestructura de datos que conlleva», dijo.
El papel del código abierto
En cuanto al código abierto, los tres líderes tuvieron un instinto similar: poseer lo que puedas y apoyarte en los laboratorios de vanguardia sólo donde todavía tengan una clara ventaja.
Ghoche dijo que su opinión es que la mayoría de las empresas preferirían ser dueñas de sus modelos e infraestructura siempre que sea posible, y ese razonamiento es el que impulsa el propio enfoque de Zendesk. La excepción es el trabajo de razonamiento de frontera, donde los laboratorios todavía lideran, aunque dijo que esa porción de casos de uso se está reduciendo en relación con todo lo que las empresas hacen ahora con la IA.
La respuesta de LinkedIn fue construir dos subsistemas específicamente para la independencia. La primera es lo que la empresa llama una puerta de enlace de IA, una interfaz única por la que pasa cada llamada saliente a un modelo, independientemente del proveedor. El segundo componente es un subsistema de memoria creado para mantener el contexto independiente de cualquier proveedor de modelos.
«Cada llamada saliente que se dirige a un LLM, ya sea en una nube pública o local en nuestros propios centros de datos, sigue la misma semántica, las mismas llamadas API. Podemos cambiar rápidamente entre diferentes proveedores», dijo Singh.
Walmart construyó su propia puerta de enlace interna para mantenerse independiente de los proveedores en tres tipos de cargas de trabajo: flujos de trabajo totalmente deterministas, flujos de trabajo de planificación y razonamiento para tareas abiertas y un híbrido de los dos. El trabajo intensivo en cumplimiento sigue siendo determinista por diseño; la gobernanza, la seguridad y la evaluación pasan por la puerta de enlace, independientemente del modelo que se encuentre en el otro extremo. Gosby dijo que la elección entre un modelo de frontera y un modelo de peso abierto se reduce a lo que sea más efectivo para la carga de trabajo específica, no a una política fija.
Consejos para el viaje de modernización
Tres consejos surgieron directamente, cada uno de ellos vinculado a la pared que un líder ya había golpeado.
Invierta en evaluaciones antes que nada. Ghoche lo llamó algo común a cada caso de uso, interno o de cara al cliente.
«Lo que es común a todos estos son las evaluaciones. Te obligará a desglosar el problema y, una vez que tengas un conjunto sólido de evaluaciones, podrás avanzar mucho más rápido», dijo.
Sea dueño de su arnés de agente desde el primer día. El consejo de Gosby fue poner el arnés de IA directamente en manos de los empleados desde el principio, junto con la infraestructura para monitorear lo que produce.
«Esto desbloqueará una enorme cantidad de innovación», afirmó.
Construya para la independencia del modelo y del contexto. Garantizar la flexibilidad es fundamental para el éxito.
«Construir para la independencia, ya sea un modelo de frontera de hoy versus un modelo de código abierto del mañana», dijo Singh. «Mantenga ese contexto dentro de su empresa para poder reutilizarlo cuando envíe el modelo o el arnés mañana», dijo Singh.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
