Los equipos de IA empresarial están brindando a los agentes más libertad al mismo tiempo que su confianza en las pruebas automatizadas se derrumba.
La mitad de las empresas han implementado un agente de IA o una función LLM que pasó evaluaciones internas y aún así causó una falla de cara al cliente (una de cada cuatro más de una vez), según la encuesta VB Pulse de junio de 2026 a 157 encuestados empresariales calificados en empresas con 100 o más empleados.
La muestra es autoseleccionada y no probabilística, por lo que los hallazgos deben leerse como direccionales, no precisos.
Pero las empresas no están respondiendo desacelerando la automatización: El 66 % de los encuestados ya permite alguna implementación de producción sin revisión humana. o están construyendo sistemas destinados a hacerlo en los próximos 12 meses. Sólo el 5% dice que confía plenamente en las evaluaciones automatizadas que tomarían esas decisiones de lanzamiento.
Ese desajuste es la brecha de evaluación: el límite de autonomía está aumentando más rápido que la garantía por debajo de él.
También se ajusta a una tesis más amplia que se explorará en Transformación VB 2026: las empresas envían agentes primero, mientras que las capas de control en torno a la identidad, la evaluación, el costo, el contexto y la orquestación llegan más tarde. El próximo año será un ciclo de modernización, en el que los compradores cambiarán el presupuesto hacia sistemas que hagan que las implementaciones de agentes sean gobernables y confiables.
Por qué una evaluación aprobatoria no es un agente laboral
Las pruebas de software tradicionales generalmente preguntan si una entrada definida produce un resultado esperado. Las pruebas de agentes son más difíciles porque el sistema puede elegir su propia secuencia de pasos, llamar a herramientas, recuperar datos, alterar el estado y responder de manera diferente de una ejecución a la siguiente.
Un agente puede tomar varias decisiones individualmente plausibles y aun así llegar a un resultado equivocado. Puede recuperar la cuenta correcta pero actualizar el campo incorrecto. Puede redactar una solicitud de reembolso válida pero enviarla sin aprobación. Puede llamar a cinco herramientas con éxito antes de que un sexto paso filtre información confidencial o deje un flujo de trabajo incompleto.
La encuesta muestra que las empresas ya reconocen esta limitación. La razón más común para desconfiar de la evaluación automatizada es la mala alineación con los resultados del mundo real, citada por el 29% de los encuestados. Le siguen sesgos o inconsistencias con un 21%, falta de explicabilidad con un 18% y fugas de datos o preocupaciones sobre la privacidad con un 17%.
Esa jerarquía importa. Las empresas dicen que la puntuación a menudo no predice lo que sucede cuando un cliente, empleado o proceso de negocio se encuentra con el agente en producción; no es que la puntuación automatizada sea demasiado lenta o costosa.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
NIST hace un comentario similar en su perfil de IA generativa: Es posible que las mediciones recopiladas en entornos controlados no se transfieran limpiamente a la implementación porque el comportamiento cambia con las indicaciones, los usuarios, el contexto y las condiciones operativas. Su guía exige pruebas de campo, monitoreo posterior al despliegue y procesos claros para la escalada de fallas.
VB Transform · 14 y 15 de julio · Menlo Park · LLM, operaciones y evaluaciones
Los puntos de referencia estándar fallan. Amazon y Waymo explican qué prueban en su lugar.
La pista de evaluaciones profundiza en las cuatro dimensiones de la confiabilidad (consistencia, solidez, previsibilidad, seguridad) y cómo los equipos de Amazon y Waymo las están operacionalizando en producción.
Capacidad no es consistencia
Una sola ejecución exitosa demuestra que un agente puede completar una tarea. No prueba que completará la tarea de manera confiable.
Guía de Anthropic sobre la evaluación de agentes distingue entre medir si un sistema tiene éxito al menos una vez en intentos repetidos y si tiene éxito en todas las ocasiones. Esa distinción es esencial para los flujos de trabajo operativos o de cara al cliente. Un modelo que ocasionalmente produce una respuesta excelente puede seguir siendo inaceptable si la misma tarea falla de manera impredecible en el siguiente intento.
Por lo tanto, los equipos empresariales deberían tratar la repetibilidad como una métrica de primera clase. Eso significa ejecutar el mismo escenario varias veces, variar la redacción y el contexto, probar fallas de las herramientas y medir si el resultado comercial final sigue siendo correcto incluso cuando cambia la ruta.
El conjunto de evaluación también tiene que evolucionar. Cada incidente de producción debería convertirse en una prueba de regresión permanente. Las derivaciones de clientes, las llamadas fallidas a herramientas, las aprobaciones incorrectas y los errores en el manejo de datos deberían retroalimentarse en la suite previa a la implementación en lugar de permanecer como casos de soporte aislados.
La autonomía debería expandirse por riesgo, no por ambición
La encuesta no implica que toda acción de agente deba requerir de una persona. La revisión humana no puede abarcar millones de decisiones de bajas consecuencias.
Pero la operación sin intervención humana debe lograrse mediante una confiabilidad demostrada y limitada por las consecuencias de una falla.
Acciones de bajo riesgo, como redactar resúmenes internos o categorizar documentos, pueden tolerar una autonomía más amplia. Las transacciones financieras, las comunicaciones con los clientes, la implementación de códigos, los cambios en el control de acceso y la eliminación de datos necesitan umbrales más estrictos, pruebas de coherencia repetidas, verificaciones de políticas, mecanismos de reversión y rutas de escalamiento humano claras.
El riesgo tampoco se distribuye uniformemente según el tamaño de la empresa. Las empresas más grandes (aquellas con 2500 o más empleados) están avanzando más rápido hacia la implementación sin personal humano, con un 70% frente a un 64% para las empresas más pequeñas, y también están enviando más agentes que fallan a un cliente, un 54% frente a un 48%.
Ésa es la advertencia para los líderes empresariales. Sacar al ser humano del circuito no elimina la incertidumbre. Sin una seguridad más sólida, se convierte la incertidumbre en una decisión de producción automatizada.
El mercado seguirá presionando hacia una mayor autonomía porque el incentivo económico es real. Las organizaciones mejor posicionadas no serán aquellas que eliminen a las personas más rápidamente: serán las que tomen las pruebas de repetibilidad y regresión tan en serio como la velocidad de implementación.
