Agentes de IA e identidades no humanas: desafíos de gobernanza
Ciberseguridad · 2 min
Artículos de Pedro Vaz
Los agentes de IA comienzan a ejecutar tareas con autonomía limitada. La cuestión crítica es cómo controlar la identidad, los permisos y la supervisión sin frenar la innovación.
TL;DR
- Los agentes de IA introducen nuevas identidades operacionales en las organizaciones.
- La gobernanza debe abarcar identidad, permisos y trazabilidad.
- El principio del menor privilegio sigue siendo esencial.
- La supervisión humana debe ajustarse al riesgo de cada acción.
- La revocación y la auditoría son fundamentales para mantener el control.
La nueva pregunta: ¿quién autorizó al agente?
Durante años, las aplicaciones de _inteligencia artificial_ se limitaron sobre todo a analizar información o apoyar decisiones humanas. Con el surgimiento de los __agentes de IA__, esa realidad comienza a cambiar: estos sistemas pueden ejecutar acciones sobre aplicaciones empresariales, interactuar con otros servicios y desencadenar procesos de forma **autónoma** dentro de los límites definidos. Esa evolución introduce un nuevo desafío: cómo gobernar _identidades_ que ya no corresponden a usuarios humanos.
Las identidades no humanas exigen control propio
Un agente de IA no debe ser tratado como una simple extensión del usuario que lo invoca. Debe tener **identidad** propia, *ámbito definido*, permisos proporcionales y registros independientes. Esta distinción es importante porque el riesgo no se limita a la cadena de suministro de modelos, bibliotecas o proveedores. El riesgo operacional surge cuando el agente actúa en sistemas reales con _credenciales_, integraciones y capacidad de ejecución.
El privilegio mínimo también se aplica a los agentes
En la práctica, esto implica asignar solo los permisos *estrictamente necesarios* para cada tarea, privilegiar las **credenciales temporales** siempre que sea posible y evitar cuentas compartidas o privilegios permanentes. Siempre que sea compatible con la plataforma, los mecanismos de **identidad gestionada** o _credenciales_ de corta duración reducen la exposición asociada a secretos persistentes.
La supervisión humana no debe ser genérica
Exigir aprobación humana para todas las acciones puede hacer que el agente sea irrelevante. No exigir aprobación para ninguna acción puede crear exposición innecesaria. La decisión debe basarse en el **riesgo**: - las acciones informativas pueden automatizarse; - las acciones reversibles pueden tener límites y registro; - las acciones sensibles deben requerir validación explícita. En entornos distribuidos, donde _múltiples agentes_ interactúan con aplicaciones, APIs y servicios _cloud_, modelos de arquitectura como el Cybersecurity Mesh pueden facilitar la aplicación consistente de políticas de identidad, **autenticación** y monitorización.
Registro, trazabilidad y revocación
La gobernanza de agentes debe incluir _logs claros_: qué agente actuó, en nombre de qué usuario o proceso, con qué datos, qué herramienta invocó y cuál fue el resultado. Estos registros deben ser útiles para **auditoría**, respuesta a *incidentes* y mejora continua. También debe existir un mecanismo simple para _suspender_, limitar o **revocar** un agente cuando cambia el contexto de negocio, la integración deja de ser necesaria o se detecta comportamiento anómalo. Sin revocación práctica, la gobernanza se vuelve solo documental.
Conclusión: autonomía con fronteras explícitas
A medida que los _agentes de IA_ asumen un papel más activo en las operaciones empresariales, la identidad deja de ser solo un atributo técnico y pasa a ser un elemento central de la **gobernanza**. Preparar ese cambio desde el inicio puede ayudar a las organizaciones a _adoptar la automatización_ de forma más segura, transparente y sostenible.