Presentado por Splunk
La IA agente hace que los equipos de seguridad y TI sean significativamente más eficientes. Pero también elimina el aprendizaje que durante mucho tiempo ha producido operadores experimentados.
A medida que las organizaciones automatizan aún más el trabajo que antes realizaban analistas e ingenieros junior, enfrentan un desafío que tiene que ver tanto con el diseño de la fuerza laboral como con el diseño de la arquitectura: cómo capacitar a la próxima generación de expertos cuando la IA se encarga del trabajo que alguna vez los capacitó.
Qué hace la fuerza laboral junior
Durante dos décadas, el camino para convertirse en un analista de SecOps, SRE o ingeniero de NetOps de clase mundial ha pasado por la repetición.
Clasificación de falsos positivos. Búsqueda de contexto en paneles de control. Leyendo periódicos a las 2 a.m. lo cual resultó ser benigno. La industria consideraba este trabajo como una tarea monótona, y en muchos sentidos lo era.
Pero también sirvió como una experiencia de aprendizaje.
Las miles de horas que un analista pasó observando los patrones de tráfico construyeron la intuición que los hizo invaluables cuando ocurría un ataque real. Esta información no se enseñó en un solo curso ni se plasmó en un runbook. Se acumuló a través de la exposición, el reconocimiento de patrones, el fracaso y la escalada. Con el tiempo, así es como las personas adquieren una experiencia analítica profunda.
Sin embargo, la IA agente está empezando a automatizar las mismas tareas que alguna vez sirvieron como campo de entrenamiento para esta experiencia. Ésta no es razón para reducir el ritmo. La tarea fue costosa. El agotamiento fue real. Las organizaciones deberían utilizar agentes para reducir el trabajo siempre que puedan.
Al mismo tiempo, a medida que eliminamos este ciclo de aprendizaje, debemos ofrecer a los operadores algo mejor. La forma en que las organizaciones aborden este tema hoy determinará los ganadores del mañana.
Las organizaciones que aborden deliberadamente este problema capacitarán a operadores capacitados para lograr el éxito durante la próxima década. Las organizaciones que dan el paso corren el riesgo de terminar con sistemas más rápidos hoy, pero menos personas que los entiendan lo suficientemente profundamente como para gobernarlos mañana.
Cuando la automatización anula la responsabilidad
También hay una segunda dimensión en esta conversación que recibe menos atención de la que debería.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
En entornos regulados, la dificultad del aprendizaje es parte del nivel de responsabilidad. Los marcos desde SOX hasta PCI DSS, HIPAA y NIS2 suponen que existe una cadena de juicios humanos detrás de una decisión de control.
Los auditores no cuestionan los modelos. Entrevistan a personas que pueden explicar por qué un sistema hizo lo que hizo, por qué la decisión fue acertada y si se implementaron los controles apropiados.
Cuando la población de profesionales capaces de explicar esta cadena comience a disminuir, es posible que el riesgo no se haga evidente de inmediato. El cheque todavía puede pasar. El flujo de trabajo aún se puede ejecutar. Es posible que el tablero aún aparezca verde.
Pero la memoria organizacional subyacente comienza a desvanecerse.
Esto no es sólo una cuestión de herramientas. Este es también un problema de habilidades y diseño de la fuerza laboral. Y para las organizaciones que avanzan rápidamente hacia la adopción de agentes, el riesgo está más cerca de lo que muchos piensan.
Desarrollar la experiencia humana para gobernar la IA
Cuando perdamos parte de la capa de responsabilidad ante los agentes, los humanos asumirán un tipo diferente de rol de gobernanza. Gobernar un sistema de agentes significa implementar salvaguardas automatizadas que se adapten al comportamiento no determinista de los agentes y garanticens Los agentes se comportan apropiadamente en condiciones que nadie realmente anticipó. Esto significa diseñar criterios de escalada que detecten las anomalías correctas sin abrumar a los humanos con las incorrectas. Esto significa implementar herramientas, alertas y procesos dinámicos para examinar las decisiones de las máquinas en busca de desvíos, sesgos y fallas de razonamiento que ningún caso individual revelaría.
La capacidad de evaluar y responder a estas excepciones requiere un juicio construido a lo largo de años de experiencia y el reconocimiento de los patrones de aprendizaje que producía el antiguo modelo de aprendizaje.
Por eso la cuestión del personal y la cuestión de la arquitectura son ahora la misma cuestión. Si esperamos que los humanos gobiernen sistemas cada vez más autónomos, necesitamos vías intencionales que ayuden a las personas a gestionar la escala y la velocidad de los sistemas de IA mientras desarrollan la intuición y el juicio de los operadores humanos necesarios para realizar este trabajo.
En la era de la IA, las plataformas más valiosas no sólo automatizarán la mayoría de las tareas. Ayudarán a las personas a ser más competentes, más creíbles y más esenciales a medida que los sistemas que los rodean se vuelvan más rápidos e inteligentes.
Esto significa que las organizaciones deben invertir en el ecosistema completo de experiencia para los operadores: comunidades que difundan prácticas compartidas, certificaciones u otras evidencias que hagan visible la experiencia, así como explicaciones y verificaciones orientadas a los humanos en IA, y rutas de aprendizaje que desarrollen capacidades. El empoderamiento es una elección de diseño arquitectónico
El empoderamiento humano es una parte vital de la conversación sobre el uso práctico de la IA. Sin embargo, sin una estrategia intencional que respalde esto, se corre el riesgo de convertirse en el tipo de frase que no significa nada porque podría significar cualquier cosa.
El empoderamiento de los sistemas de agentes no puede ser simplemente un requisito conceptual. Debe ser un conjunto de opciones de diseño integradas en el comportamiento de los sistemas. Un sistema de agentes que empodera a sus operadores humanos y desarrolla sus habilidades profesionales logra cuatro cosas:
1. Expone el razonamiento, con el linaje de datos detrás de él.
Cada recomendación que hace un agente debe ser rastreable hasta los datos que consideró, la lógica que aplicó y de dónde provienen las entradas que utilizó. Los operadores que pueden ver el razonamiento desarrollan un juicio sobre cuándo confiar en él. Los operadores sólo dieron conclusiones.
2. Niveles de autoridad por nivel de confianza e impacto
Los patrones familiares y de bajo riesgo se pueden manejar de forma independiente. Las situaciones o acciones nuevas con un radio de explosión significativo deberían intensificarse de forma predeterminada. El límite debe ser explícito y configurable por los equipos que asumen sus consecuencias.
3. Trate los desacuerdos como una señal de corrección.
Cuando un ingeniero experimentado anula a un agente, hace más que estar en desacuerdo. Arregla el sistema con un criterio que el modelo no tenía: una dependencia frágil, una peculiaridad del entorno, una restricción que los datos nunca vieron. Un sistema que registra la desviación pero ignora el razonamiento detrás de ella no aprende nada de cuando un humano sabía mejor.
4. Captura resoluciones como conocimiento entre dominios
La forma en que se resuelve un incidente es una lección que rara vez se centra en un solo tema. Un incidente de SecOps puede revelar una debilidad de ITOps. Un problema de red puede afectar el negocio. Cuando esa conexión sólo reside dentro de un ticket cerrado, el siguiente equipo en tocarla comienza desde cero. Las resoluciones deben viajar a través de dominios y no morir donde fueron presentadas.
Éstas no son cualidades a las que se aspira. Éstas son capacidades del producto comprobables. Los gerentes que evalúan los sistemas de agentes deberían poder identificar dónde se encuentran estas capacidades, qué sucede si fallan y si las habilidades del operador mejoran después de la implementación.
La próxima ventaja es cuando los humanos y la IA evolucionan juntos
Para que los sistemas de IA sean prácticos, confiables y funcionen a escala, el punto crítico de su diseño es que la IA trabaje profundamente junto con los operadores humanos y los empodere.
Como tal, la era agencial no es una historia de sustitución de humanos. Se trata de repensar los sistemas operados por humanos para que estas operaciones puedan ocurrir a la velocidad y escala de las máquinas, mientras la experiencia humana crece al mismo tiempo. Juntos y no a expensas de los demás.
Este resultado no es seguro. Esto sólo sucederá si los líderes ven el desarrollo de los operadores como una prioridad y no como una ocurrencia tardía. Para lograr esto, los sistemas de agentes deben diseñarse intencionalmente para exponer el razonamiento, capturar el aprendizaje y devolver el trabajo a los humanos de manera que desarrollen habilidades y carreras en lugar de erosionarlas.
Los agentes seguirán volviéndose más inteligentes y más rápidos. La capacidad de los operadores que trabajan junto a ellos para aprender y evolucionar al mismo tiempo determinará si la próxima década de resiliencia digital será realmente propiedad de las organizaciones o algo que alquilarán de un grupo de expertos cada vez más reducido.
Obtenga más información sobre cómo Cisco Data Fabric impulsado por la plataforma Splunk ayuda a los equipos a acelerar las operaciones de agencia.
Kamal Hathi es vicepresidente ejecutivo y director general de Splunk, una empresa de Cisco.
Los artículos patrocinados son contenidos producidos por una empresa que paga por la publicación o tiene una relación comercial con VentureBeat y siempre están claramente marcados. Para más información, póngase en contacto ventas@venturebeat.com.
