Gobernar agentes de IA: la clave esta en la capa de datos

Los agentes de IA cada vez deciden mas por su cuenta: planifican, actuan y tocan datos sin que un humano apruebe cada paso. La pregunta que aparece en todas las arquitecturas es simple: cuando un agente intenta hacer algo que no tenia permitido, que lo detiene? La respuesta, segun EDB, no esta en el modelo ni en politicas abstractas, sino en la capa de datos, justo donde el agente opera.

La compania, especializada en Postgres, plantea que los guardarrailes tradicionales (instrucciones, monitoreo, politicas) fallan porque dependen de que el agente se comporte de forma predecible, y la autonomia es justo lo que hace impredecible su salida. Si un agente actua en milisegundos, no puedes revisar cada accion antes de que ocurra. La gobernanza tiene que ser ejecutable, y el unico punto donde se puede imponer es en la base de datos, en el momento exacto en que el agente intenta acceder o modificar algo.

La idea central es tratar al agente como un "principal" con identidad propia, igual que un usuario, y vincular un proposito declarado al inicio de la sesion. Asi, el motor de politicas existente (roles, atributos, seguridad a nivel de fila y columna) puede evaluar al agente con las mismas reglas que ya aplica a las personas. Si un agente dice que va a hacer una cosa y luego intenta otra, el sistema lo bloquea o lo registra.

EDB resume el enfoque en nueve controles, agrupados en tres imperativos: hacer cumplir (control de acceso, enmascaramiento, identidad del agente), ver y probar (clasificacion, auditoria de sesion, linaje de datos) y unificar (gestion centralizada de politicas, cifrado, consistencia entre entornos).

Priyanka Jain, vicepresidenta de producto en EDB, lo explica asi: "El proposito declarado es lo que marca la diferencia. Se convierte en un atributo que la capa de acceso ya entiende, evaluado en la misma ruta de politica que el rol y la seguridad a nivel de fila. El mecanismo de cumplimiento no cambia. Lo que cambia es que el proposito del agente forma parte de lo que se evalua y de lo que el registro demuestra despues".

La propuesta no es nueva en cuanto a mecanismos: son los mismos controles que muchas empresas ya tienen en sus bases de datos. Lo que cambia es que ahora los agentes tienen que pasar por ellos. La diferencia entre esperar que un actor se mantenga dentro de los limites y construir limites que no pueda cruzar.

EDB presenta esto como una forma de avanzar mas rapido con IA, no mas lento. Si seguridad, riesgo y direccion confian en el modelo operativo, pueden desplegar agentes sin miedo. Para sectores regulados, ademas, la soberania de datos y el cumplimiento en el origen son condicion para poner agentes en produccion.

Queda por ver si las empresas adoptan esta gobernanza a nivel de datos o si seguiran confiando en que los modelos se porten bien. La propuesta de EDB tiene logica, pero es tambien una forma de vender su plataforma Postgres AI. Aun asi, la idea de que el control debe estar en los datos, no en el agente, es un debate que ya esta sobre la mesa.