La mayoría de las implementaciones de IA empresarial hasta ahora se han centrado en asistentes de codificación y robots de servicio al cliente. Morgan Stanley ha desplegado agentes en uno de los flujos de trabajo bancarios más críticos en términos de precisión y con plazos determinados (la conciliación de pérdidas y ganancias) y ha reducido el trabajo a la mitad. La parte contraintuitiva: llegó allí haciendo que el sistema fuera menos autónomo, no más.
Los seres humanos se mantienen perfectamente informados y sus decisiones se convierten iterativamente en reglas repetibles que el sistema puede aplicar por sí solo.
«Es mucho más un compañero de trabajo que un copiloto», dijo el director general de Morgan Stanley, Todd Johnson, en un evento reciente de VB AI Impact. El sistema de agentes de producción interna, conocido como FIXR, va más allá de las tareas simples y directas de «gen AI 1.0». «Creemos que ahí es donde realmente está la oportunidad de desbloquear un trabajo más complejo en la organización».
FIXR detrás de escena
Cada día de negociación, las mesas de operaciones de Morgan Stanley se encargan del importante trabajo relacionado con transacciones como acciones en efectivo o inversiones en deuda.
Y, al final de cada uno de esos días, los controladores deben conciliar las pérdidas y ganancias de los sistemas de finanzas, riesgo, operaciones y captura comercial del gigante financiero. Todos esos datos deben unirse y, tal vez no sea sorprendente, cientos de miles de atributos con frecuencia no coinciden.
Por lo general, esto significa que los controladores deben investigar manualmente cada discrepancia (o “rotura”), tomar decisiones sobre los ajustes y, idealmente, cerrar sesión antes de que el número llegue al escritorio. Y todo esto mientras trabajaba en una dura fecha límite matutina.
Anteriormente, esto podía llevar hasta seis horas para un solo libro. Ahora, FIXR realiza la tarea en dos o tres horas, dijo Johnson. Entre los aproximadamente 100 controladores que realizan este trabajo, eso suma aproximadamente 1.500 horas ahorradas por semana.
Una vez completados los cálculos de pérdidas y ganancias nocturnos, el sistema analiza automáticamente las «descansos» y propone resoluciones basadas en las reglas aprendidas. Varios agentes trabajan juntos:
-
Uno interpreta las orientaciones pasadas para desarrollar resoluciones al comienzo del día.
-
Se aprende del comportamiento del controlador y se documentan las reglas que aplican.
-
Uno convierte patrones repetidos en lógica automatizada y duradera.
Con el tiempo, el sistema puede borrar automáticamente ciertas fallas que encontró antes, sugerir soluciones para otras que pueden resultarle menos familiares, pedir ayuda cuando no esté seguro y marcar para investigación humana. Cuando los problemas se resuelven repetidamente mediante el mismo método, se pueden crear reglas firmes.
Fundamentalmente, los humanos no salen del círculo, sino que permanecen completamente dentro de él, dijo. Revisan, aprueban o corrigen cada recomendación y luego retroalimentan esas decisiones para mejorar la siguiente ejecución. El agente aprende diariamente de los controladores lo que hace bien y lo que hace mal y codifica ese conocimiento a medida que itera.
«Aún se conserva ese elemento de responsabilidad humana incluso cuando se comienza a automatizar», dijo Johnson. «Con el tiempo, verás cada vez más de esos elementos resueltos de forma automática».
Destacó que la autonomía requiere mucha confianza; las empresas no verán ganancias de eficiencia si todos controlan todo lo que hace un agente.
El circuito de retroalimentación entre humanos y agentes fue fundamental para abordar el desafío de la automatización controlada, medida y repetible. «Reconocimos que toda esa inteligencia que está en la mente de un controlador será difícil de incorporar a un agente desde el primer día», dijo Johnson.
Centrarse en el proceso primero, la extensibilidad
Johnson dijo que era fundamental establecer procesos primero, antes de involucrar a la IA. Su equipo realizó una evaluación de inteligencia de procesos “muy exhaustiva” que mapeó y exploró los flujos de trabajo para identificar dónde la automatización sería más ventajosa: ¿fueron los agentes de respuesta, la automatización tradicional o la simple reingeniería un paso ineficiente?
«Si podemos solucionar eso primero antes de agregar agentes al problema, entonces realmente estaremos transformando la oportunidad», dijo.
El proceso de aprobación de pérdidas y ganancias estuvo lleno de pasos manuales adecuados para la automatización, y los agentes que se hacen cargo de algunas de estas tareas que consumen mucho tiempo están liberando a los controladores para un trabajo de “análisis de mayor valor agregado” y “consideración de riesgos más profunda”, dijo.
Sin embargo, la extensibilidad era tan importante como el ahorro de tiempo. El equipo de Johnson eligió este caso de uso particular de conciliación de pérdidas y ganancias porque cientos de controladores estaban haciendo este trabajo a nivel mundial en toda la empresa (en América, Europa y Asia).
Así que comience con un caso de uso, pruébelo, extiéndalo, “y finalmente la transformación se producirá a medida que implementemos esto cada vez más en toda la organización”, dijo Johnson.
Determinista por diseño
Johnson dijo que el equipo también limitó deliberadamente en qué medida el flujo de trabajo dependía del criterio del modelo. «Si tienes la oportunidad de hacer las cosas muy prescritas y repetibles, eso es más barato en términos de consumo de tokens, es más repetible en términos de controles, y hacer que el LLM haga las cosas donde no se necesita ese tipo de flujo de trabajo determinista», dijo.
A medida que el sistema ve más retroalimentación del controlador sobre un tipo de ruptura determinado, Morgan Stanley convierte ese patrón en una regla fija en lugar de dejárselo al modelo.
Los humanos todavía son dueños del comportamiento.
Una pregunta interesante (y quizás fundamental) que se plantea en los albores de la era agencial es: ¿los agentes son empleados en código o digitales?
Johnson sostiene que “probablemente sean un poco de ambas cosas” y, como tales, requieren matices en lo que respecta a la gobernanza y la supervisión. Los equipos técnicos aún deben ser responsables de mantener las protecciones y las barreras de seguridad, como los firewalls o el cifrado, por ejemplo.
Pero hay una nueva dinámica en torno al “elemento de desempeño”: los humanos que usan agentes son responsables de ellos porque ayudan en su trabajo comercial. Por ejemplo, si un controlador senior está trabajando con un controlador junior, no renuncian a la responsabilidad simplemente porque alguien los esté ayudando, señaló Johnson.
«Uno de nuestros principios sólidos en nuestra gobernanza de la IA en general es que siempre tiene que haber responsabilidad humana, incluso si hay un grado de automatización», dijo.
Pero normalmente no hay “una sola persona” y, en última instancia, el proceso es continuo. Hasta este punto, Johnson bromeó diciendo que una cosa “deprimente” acerca de la IA agente es que requerirá entrenamiento continuo porque los modelos cambian constantemente.
«Nunca podrás decir: ‘Hemos hecho todas las evaluaciones y pruebas que teníamos que hacer. Dejémoslo pasar’. Tendrás que tener una visión constante a medida que evoluciona con el tiempo”.
Morgan Stanley apunta a puntos débiles empresariales reales
La experiencia de Morgan Stanley refleja patrones que VentureBeat ha descubierto en implementaciones de IA empresarial.
En la reciente encuesta VB Pulse de VentureBeat, casi tres cuartas partes de los encuestados informaron haber visto poco o ningún retorno de la inversión en el ajuste fino del modelo personalizado, describiendo un «cementerio de pruebas» de proyectos de IA que resultaron demasiado costosos de mantener. Esto sugiere que el enfoque de Morgan Stanley de priorizar el proceso y comprar y combinar puede ser más sostenible que perseguir modelos hechos a medida. La encuesta tuvo 87 encuestados y los hallazgos deben considerarse direccionales.
La gobernanza surgió como otro desafío común: el 38% de los encuestados citó la falta de un único propietario responsable como su mayor barrera para la producción de IA, mientras que solo dos de las 87 empresas encuestadas contaban con monitoreo y alertas activos para detectar fallas en el modelo.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
