Presentado por EDB
A medida que las empresas dan más autonomía a los agentes de IA (la capacidad de planificar, decidir y actuar en todos los sistemas sin que un humano apruebe cada paso), una pregunta difícil pasa al centro de cada revisión de arquitectura: cuando un agente intenta completar una acción para la que nunca estuvo autorizado, ¿qué es lo que realmente lo detiene?
Estos son sus agentes, que ejecutan sus modelos, tocan sus datos en su infraestructura, y la responsabilidad de lo que hacen es suya. Esa responsabilidad no se puede cumplir en retrospectiva o con un conjunto de políticas abstractas que se basan en el papel pero no en la práctica. Los agentes necesitan reglas en el contexto del momento, porque no ejercen un juicio preponderante sobre sus propias acciones.
Considere una regla simple: nunca abra la puerta del automóvil. Si se sigue literalmente, un agente nunca podría entrar ni salir del coche. Pero si cambias el contexto (el coche acaba de estrellarse, hay un incendio, alguien está herido y necesita salir), entonces la regla que realmente quieres es la contraria. El contexto en el momento lo es todo. Estamos pidiendo a los agentes que hagan cosas inteligentes; eso requiere reglas inteligentes.
El instinto es agregar barreras de seguridad alrededor del agente: instrucciones, políticas y monitoreo por encima del modelo. Esos mecanismos importan, pero comparten un límite estructural: la regla de la puerta del automóvil es plausible hasta el momento en que realmente tienes que decidir si abrir la puerta. Los controles en la capa del agente son tan confiables como la producción del agente es predecible, y la autonomía es precisamente la propiedad que hace que esa producción sea difícil de predecir. La gobernanza que depende de revisar una acción antes de que suceda no puede seguir el ritmo de un sistema que actúa en milisegundos, en muchos sistemas a la vez.
La gobernanza debe convertirse ejecutabley se aplica donde los agentes realmente hacen su trabajo: en la capa de datos operativos, en el contexto y exactamente en el momento en que está sucediendo.
La capa de datos es el punto de cumplimiento
Los agentes crean valor tocando datos. Lo cuestionan, lo recuperan, lo transforman y actúan cada vez más en consecuencia. Una política que dice que un agente no debe acceder a una determinada clase de datos sólo tiene sentido si el sistema puede denegar ese acceso en el momento en que el agente lo solicita. Además, un principio que dice que la IA debe ser auditable sólo tiene sentido si la organización puede reconstruir lo que hizo el agente, qué datos tocó, para qué usuario actuó y cuál fue el resultado. Cuando gobernancia vive en la capa de datos, se mantiene independientemente de cómo se construyó el agente o cómo se comporta, porque el control es una propiedad de la base de datos en sí, no una promesa hecha por el agente.
El comportamiento del agente puede ser probabilístico. La gobernanza no puede ser
La empresa no debería confiar en un modelo que opte por seguir una política. La política tiene que ser aplicada por el sistema. Ésa es la diferencia entre esperar que un actor se mantenga dentro de los límites y construir límites que, para empezar, no puede cruzar.
Los controles que hacen que esto sea real son los que muchas empresas ya ejecutan en la capa de datos: acceso basado en roles y atributos, seguridad a nivel de filas y columnas, clasificación y enmascaramiento, políticas como código y pistas de auditoría completas.
Lo que los agentes cambian no es el mecanismo, sino a quién tiene que reconocer el mecanismo. La gestión de identidad debe tratar al agente como un principal por derecho propio, con su propia identidad y un propósito declarado cuando se abre la sesión.
Una vez que el propósito está vinculado a la identidad, el motor de políticas puede evaluarlo de la misma manera que evalúa el rol o el departamento hoy en día, y el registro de lo que sucedió puede capturar no sólo quién actuó y qué tocaron, sino también qué declararon que estaban allí para hacer.
En la práctica, esto se resuelve en nueve controles, agrupados en tres imperativos:
hacer cumplir
-
Control de acceso basado en roles y atributos aplicado en el momento de la consulta, tanto para agentes como para usuarios
-
Enmascaramiento de columnas dinámico impulsado por la misma ruta de política
-
Identidad del agente como principal de primera clase, con un propósito declarado vinculado al inicio de la sesión y preservado el usuario actuante.
Véalo y pruébelo
-
Clasificación y etiquetado que impulsan la política
-
Registro de auditoría a nivel de sesión que registra qué agente actuó, para qué usuario y con qué propósito declarado.
-
Linaje a través de tuberías, por lo que un resultado se puede rastrear hasta la solicitud que lo produjo.
Unificar y endurecer
-
Gestión de políticas centralizada y portátil
-
Cifrado en reposo y en tránsito
-
Aplicación coherente de la ley en entornos locales, en la nube y soberanos o aislados
«El propósito declarado es lo que marca la diferencia. Se convierte en un atributo que la capa de acceso ya comprende, evaluado en la misma ruta política que la seguridad a nivel de rol y de fila. El mecanismo de aplicación no cambia. Lo que cambia es que el propósito del agente es parte de lo que evalúa y parte de lo que el registro demuestra posteriormente», dice Priyanka Jain, vicepresidenta de gestión de productos, gobierno de datos e inteligencia artificial, EDB.
Dondequiera que se encuentre en su proceso de adopción de la IA, la aplicación de la ley en la capa de datos es lo que le permite avanzar más rápido en lugar de hacerlo más lento. Los controles ya están en la base de datos. La diferencia es que los agentes ahora tienen que pasar por ellos.
Una correa digital, no una puerta cerrada
El objetivo no es impedir que los agentes realicen un trabajo útil. Se trata de definir hasta dónde puede llegar un agente, qué puede tocar, qué puede cambiar, qué requiere escalada y cómo la organización puede reconstruir los acontecimientos si algo sale mal. Gobernados de esta manera, los agentes son identificados, delimitados, monitoreados y auditables. La empresa puede adoptarlos. más rápidoporque los equipos de seguridad, riesgo y liderazgo confían en el modelo operativo subyacente.
Abierto, soberano y exigible en la fuente
Construido sobre Postgres de código abiertoesta base abierta mantiene a las empresas en control de dónde residen sus datos, quién puede acceder a ellos y bajo qué política, sin ceder la gobernanza a una capa que no les pertenece o que no pueden inspeccionar. Para las industrias reguladas, esa combinación de datos soberanía y la aplicación a nivel de fuente no es algo agradable de tener; es la condición previa para poner agentes en producción.
Los sistemas agentes seguirán volviéndose más capaces y más autónomos. Ésa es una razón para reflexionar sobre dónde reside el control, no una razón para reducir la velocidad. Las empresas que imponen la gobernanza en la capa de datos pueden avanzar agresivamente hacia la IA, porque lo que protege sus datos es más que una simple ilusión.
EDB Postgres AI es una plataforma abierta de inteligencia artificial y datos soberanos de nivel empresarial que unifica cargas de trabajo transaccionales, analíticas y de inteligencia artificial, con una gobernanza aplicada donde residen los datos. Para conocer el marco completo, consulte el documento técnico de EDB. Gobernando la IA agente a velocidad empresarial.
Max Romanenko es director de tecnología de EDB.
Los artículos patrocinados son contenido producido por una empresa que paga por la publicación o tiene una relación comercial con VentureBeat, y siempre están claramente marcados. Para más información, póngase en contacto ventas@venturebeat.com.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
