Presentado por Gravitee
La complejidad de los agentes es la sombra insidiosa que acecha dentro de las empresas en este momento y que necesita que se la ilumine.
Esto se debe a que las empresas no implementan un solo agente y observan su ejecución, sino que implementan flotas, cada una de las cuales llama a API, llama a otros agentes y accede a aplicaciones que nunca se crearon teniendo en mente a una máquina que toma las decisiones. Ése es el modo de fracaso que debería mantenerte despierto por la noche: un sistema ventoso y complicado que nadie puede ver con suficiente claridad para gobernarlo. Pero ¿por qué las cosas se vuelven tan opacas tan rápidamente?
Agregue un segundo agente a un sistema y habrá agregado una conexión. Agregue un décimo y no habrá agregado diez conexiones, potencialmente habrá agregado docenas, porque ahora cualquier agente puede llamar a cualquier otro, y cada una de esas llamadas puede desencadenar una llamada a otro lugar. La complejidad no aumenta con el número de agentes. Se complica con la cantidad de caminos entre agentes, y el trabajo de nadie es dibujar ese gráfico. Un ticket de soporte que solía tocar un sistema ahora podría pasar por cuatro agentes antes de que un humano lo vea, y cada una de esas transferencias es un punto de decisión que nadie aprobó.
La mayoría de los programas de IA empresarial se detienen cuando los humanos responsables de sus agentes pierden el hilo. Haga una pregunta sencilla al equipo de seguridad: qué agentes pueden acceder a qué sistemas y observe el silencio. Pregunte qué agente desencadenó qué acción posterior hace tres saltos. Más silencio.
El instinto es tratar esto como una lista de verificación. Aprobar al agente. Registre al agente. Siga adelante. Yo diría que este es el instinto equivocado. Una lista de verificación verifica un único momento en el tiempo. La complejidad atraviesa una cadena, y no se puede gobernar una cadena con un montón de aprobaciones únicas más de lo que se puede llamar exitosa a una dieta porque una vez comiste un vegetal.
Entonces, ¿dónde se descompone realmente?
Los permisos son los primeros en aparecer. Alguien crea un agente para resumir los tickets de soporte, le otorga un amplio acceso a la API porque determinar su alcance correctamente habría requerido otro sprint y se olvida. Seis meses después, ese mismo agente tiene un camino hacia el sistema de pagos. Nadie recuerda haber firmado eso. Nadie lo hizo.
Y la propiedad se reduce cuanto más avanza la cadena. Cinco agentes tocan un flujo de trabajo, algo se rompe en el paso cuatro y ahora estás preguntando quién es responsable de un enlace que nunca fue asignado a nadie, porque el organigrama se detuvo en «implementar el agente» y nunca llegó a «nombrar al humano que responde por él».
Esta es una historia sobre infraestructura de gobernanza eso no ha alcanzado el modo en que realmente se comportan los agentes: interconectados, en cascada, multiplicándose más rápido que los procesos creados para rastrearlos.
La reparación del clúster comienza con la identidad. Cada agente debe existir como su propia entidad, no como un permiso oculto tomado prestado de quien lo implementó. Su propio nombre en el registro. Su propia autoridad de alcance. Un patrocinador humano designado que responde por lo que hace. Esa parte es necesaria.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
Pero no es ni de lejos suficiente.
La parte más difícil es la supervisión que se ejerce a lo largo de toda la cadena, no sólo en cada eslabón individual de la misma. Es necesario ver qué hizo un agente, qué provocó en el futuro y dónde termina ese rastro en tiempo real, no en un informe que alguien elabora una vez por trimestre. Obtenga la identidad a nivel de agente correctamente y deténgase allí, y terminará con un archivador lleno de agentes perfectamente documentados que operan dentro de un sistema que nadie puede explicar.
Y la supervisión por sí sola sólo dice lo que ya sucedió. Vigilar una cadena no es lo mismo que controlarla. La aplicación de la ley es la parte que la mayoría de los programas omiten: la capacidad de detener una llamada fuera de la política antes de que se ejecute, no simplemente registrarla para que alguien la encuentre en una revisión tres semanas después. Un panel que muestra que un agente violó su alcance hace cinco minutos es una herramienta de monitoreo. Un sistema que evita que se produzca la infracción en primer lugar es la gobernanza. Empresas serias responsabilidad del agente necesitan ambos, y la mayoría sólo ha construido el primero.
Todos corremos a una velocidad vertiginosa para asegurarnos de no ser los que se quedan atrás en la carrera en la que nos encontramos, y todos somos muy conscientes de que reducir la velocidad tiene un costo. Toda empresa que se tome en serio la IA agencial eventualmente se topa con el muro de la complejidad. Los que lo superan son los que construyeron suficiente visibilidad y responsabilidad, para que su flota pueda seguir creciendo sin que nadie pierda la capacidad de responder una pregunta: qué está haciendo este sistema en este momento y quién es responsable de ello.
Pero no pierda de vista el punto. La complejidad no es motivo para pisar el freno. Las empresas que hacen esto bien no están desacelerando. Están avanzando hacia la armonía entre humanos y agentes, donde la escala y la responsabilidad crecen juntas en lugar de compensarse entre sí.
El riesgo real nunca fue que un solo agente hiciera exactamente aquello para lo que fue creado. Son cien de ellos haciendo exactamente eso, todos a la vez, interactuando en combinaciones para las que nadie fue diseñado. Ese tipo de multiplicación es lo que mantiene a la IA empresarial estancada ejecutando pilotos para siempre en lugar de ejecutar la producción.
Resuelve la complejidad y la autonomía deja de ser el villano. Empieza a ser el punto.
Rory Blundell es director ejecutivo de Gravitee.
Los artículos patrocinados son contenido producido por una empresa que paga por la publicación o tiene una relación comercial con VentureBeat, y siempre están claramente marcados. Para más información, póngase en contacto ventas@venturebeat.com.
