Presentado por Capital One
En Transformación VB 2026, Kel Vanee, MVP de ingeniería de aprendizaje automático en Capital One, habló con Sam Witteveen, colaborador senior de tecnología en VentureBeat, sobre cómo el banco construyó una arquitectura de inteligencia artificial multiagente escalable en torno a modelos de peso abierto profundamente personalizados en lugar de depender de un modelo básico estándar.
«En Capital One, no sólo utilizamos IA, sino que también la desarrollamos», afirmó Vanee.
El trabajo preliminar se sentó hace años con las primeras inversiones de Capital One en transformación de datos y adopción de la nube, que según Vanee fueron fundamentales para avanzar rápidamente cuando llegó la ola actual de IA. Esa base técnica permitió a la empresa tomar varias decisiones arquitectónicas deliberadas, incluida la construcción de una plataforma de inteligencia artificial centralizada para toda la empresa con gobernanza incorporada, la personalización profunda de modelos abiertos con datos propietarios y la construcción de su propio arnés de orquestación multiagente.
Personalización de modelos de peso abierto con datos propietarios
En lugar de depender únicamente de modelos de frontera disponibles en el mercado, Capital One afina los modelos de peso abierto utilizando sus ricos datos patentados.
«Consideramos nuestros datos como una gran ventaja y algo que nadie más tiene, algo que los modelos de frontera generales no pueden proporcionar. Así que estamos tomando esos datos y personalizando profundamente estos modelos», explicó Vanee. Agregó que los datos en tiempo real son absolutamente críticos para brindar un contexto nuevo durante las interacciones en vivo con clientes o asociados.
Vanee también reveló un beneficio inesperado de este enfoque: la extensibilidad en toda la empresa.
«A medida que personalizamos esos modelos de código abierto para un caso de uso, vemos beneficios en toda nuestra cartera», señaló. «Estamos capacitando a ese modelo para que sea un experto en los casos de uso, políticas y nomenclatura de Capital One. A medida que realizamos esa capacitación, vemos un aumento general».
Dentro del flujo de trabajo de IA multiagente de Capital One
Como ejemplo del enfoque, Vanee señaló un flujo de trabajo de servicio al cliente para fraude bancario que maneja millones de llamadas al año, donde las interacciones varían desde aproximadamente cuatro minutos hasta sesenta minutos, y donde un intento inicial de utilizar un único modelo de lenguaje grande resultó insuficiente. Con el flujo de trabajo multiagente (MACAW) de Capital One, las interacciones se enrutan a través de agentes especializados con gobernanza y barreras de seguridad integradas.
«El flujo de trabajo de MACAW se compone de varios agentes diferentes», dijo. «El primero es un agente comprensivo. Su propósito es observar lo que dice el cliente y tratar de comprender cuál es su intención».
A partir de ahí, un agente razonador recibe varias instrucciones específicas para generar un resumen; un agente de validación verifica el resumen para garantizar que sea exacto; y un agente explicativo convierte el resumen en un documento formateado con todos los detalles necesarios que luego se comparte con los agentes.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
Para el caso de uso de banca de consumo, este flujo de trabajo ayuda a varios cientos de agentes de servicio al cliente que se especializan en llamadas fraudulentas complejas. Los resúmenes posteriores a la llamada que genera ayudan a documentar largas interacciones de ida y vuelta que los agentes antes tenían que reconstruir a mano.
La arquitectura multiagente de Capital One también respalda a Chat Concierge, un asistente de compra automática de cara al cliente, que aprovecha aún más una versión del modelo Llama abierto de Meta que ha sido personalizado con los datos patentados de Capital One. Utiliza la misma división del trabajo: un agente conversa con el cliente, otro elabora un plan de acción a partir de reglas comerciales, otro evalúa la precisión y el otro explica y valida el resultado.
Optimización de la latencia y el costo con un sistema de investigación agente
Más allá de las soluciones orientadas al cliente, Capital One también está aprovechando la IA agente para automatizar tareas rutinarias para sus empleados y ayudarlos a concentrarse en aspectos de alto apalancamiento de su trabajo. En un ejemplo, la empresa creó una solución de optimización de agentes autónoma para ajustar la infraestructura de alojamiento backend.
Vanee explicó que en el mundo de los LLM, donde todos los días se realizan nuevas optimizaciones, no todas son complementarias. La combinación de dos buenas optimizaciones a veces puede provocar una regresión del rendimiento.
«Este sistema agente recorrerá un espacio de búsqueda diseñado por el investigador, manejará todos los mecanismos para configurar ese experimento y ejecutarlo, y luego presentará un resumen completo de los resultados frente al investigador», dijo Vanee.
Vanee agregó que el sistema permite a los investigadores «encontrar la serie de optimizaciones y configuraciones que realmente darán [them] la mejor latencia posible”.
Lo que sigue: enrutamiento de modelos e IA proactiva basada en eventos
De cara al futuro, una gran tendencia que ve Vanee es enrutar capas de abstracción que una plataforma busca validar en múltiples modelos, tanto por costo como por precisión.
«De hecho, creemos que se puede obtener una mayor precisión que cualquier modelo individual simplemente cruzando un conjunto más amplio de modelos disponibles, porque diferentes modelos sobresaldrán en diferentes áreas», dijo.
Su segunda predicción fue un cambio hacia sistemas que actúen sin esperar a que se les solicite, al tiempo que enfatizó que el despliegue de agentes proactivos exigiría pruebas y monitoreo rigurosos.
«Creo que lo que se hará más grande en el futuro es una IA más proactiva y basada en eventos», dijo Vanee. En lugar de esperar una indicación humana, la IA intervendría tan pronto como detecte condiciones que justifiquen la acción.
«Esto permitirá un mayor monitoreo y un monitoreo a mayor escala, y nos empoderará mientras luchamos contra el fraude y abordamos estas oportunidades», dijo Vanee. «Así que la IA proactiva será una tendencia realmente importante».
Impulsar la innovación continua de la IA en los servicios financieros
El enfoque de Capital One subraya una verdad más amplia para los líderes de tecnología empresarial: generar valor mensurable con IA requiere ir más allá del software estándar hacia arquitecturas profundamente personalizadas y altamente gobernadas. Al combinar modelos de peso abierto ajustados, un arnés de orquestación de múltiples agentes y activos de datos patentados, el banco ha establecido un plan repetible para implementar IA escalable en servicios financieros.
«Todos esos ingredientes fueron absolutamente críticos para diferenciarnos en este espacio y alcanzar los estándares de calidad, así como los umbrales de costo y latencia que nos fijamos», dijo Vanee.
A medida que la empresa amplía estas capacidades a nuevos casos de uso, su enfoque de plataforma empresarial ayuda a garantizar que los avances técnicos se traduzcan en experiencias más seguras, rápidas y personalizadas para sus millones de clientes.
Los artículos patrocinados son contenido producido por una empresa que paga por la publicación o tiene una relación comercial con VentureBeat, y siempre están claramente marcados. Para más información, póngase en contacto ventas@venturebeat.com.
