Durante años, la inteligencia artificial en la empresa respondía preguntas. Hoy actúa: abre incidencias, consulta bases de datos, envía correos, aprueba pedidos y encadena decisiones sin que nadie revise cada paso. El cambio trae una consecuencia incómoda para cualquier responsable de tecnología o de cumplimiento: los controles pensados para un asistente que solo escribe texto no sirven para un sistema que ejecuta.
Las mejores prácticas de gobernanza de IA agéntica responden a ese desajuste. Este artículo reúne qué obliga hoy la normativa europea y española, qué se aplaza a 2027 y qué persiguen los marcos internacionales de referencia. Sobre todo, detalla qué controles conviene implantar, en qué orden, quién responde de cada agente y qué evidencia hay que conservar ante una auditoría.
¿Qué es la gobernanza de IA agéntica y por qué la de un chatbot no sirve?
Antes de hablar de controles hay que acotar el objeto, porque no todo lo que se llama IA en la empresa es un agente:
La IA agéntica designa a los sistemas capaces de planificar una tarea, mantener memoria del contexto, invocar herramientas externas y ejecutar acciones con autoridad delegada, sin intervención humana en cada decisión. Gobernarla consiste en delimitar qué puede hacer cada agente, con qué permisos y bajo qué supervisión.
Un chatbot produce texto que alguien lee y decide si usa. Los agentes de IA autónomos consultan, deciden y actúan sin que nadie filtre previamente sus acciones: la diferencia es de categoría, no de grado.
Diferencias frente a la gobernanza de IA tradicional
Los programas clásicos giraban alrededor del modelo: sesgo, calidad de las respuestas, transparencia algorítmica. La gobernanza de agentes de IA gira alrededor de cuatro elementos nuevos: la identidad con la que actúa, los permisos que arrastra, las herramientas que invoca y la memoria que conserva.
Riesgos que solo aparecen cuando el agente actúa
Los riesgos de la IA agéntica se manifiestan en la ejecución, no en la respuesta. Cinco son especialmente frecuentes:
- Desvío del objetivo. Un documento o un correo externo contienen instrucciones que reorientan la tarea.
- Uso indebido de herramientas legítimas. Usa una función real con parámetros equivocados o una herramienta suplantada.
- Privilegios heredados. Conserva accesos de otra tarea, otro usuario o un rol caducado.
- Contaminación de la memoria. Datos incorrectos en el contexto sesgan las decisiones siguientes.
- Confianza excesiva del humano. Se expresa con tal seguridad que el supervisor deja de comprobar.
Ninguno de estos riesgos se detecta revisando el texto, sino vigilando el comportamiento.
Marco normativo aplicable en España en 2026
¿Qué obliga hoy el Reglamento europeo tras el Ómnibus Digital?
La norma que obliga hoy no es nacional, sino europea. El Reglamento Europeo de Inteligencia Artificial se aplica de forma directa y por fases, y su calendario cambió con el Ómnibus digital sobre IA, en vigor desde el 27 de julio de 2026.
Conviene separar dos capas. Desde el 2 de agosto de 2026 son exigibles la transparencia del artículo 50 y la vigilancia del mercado; las prohibiciones y la alfabetización en IA regían desde febrero de 2025. Lo aplazado son los sistemas de alto riesgo: diciembre de 2027 para el anexo III y agosto de 2028 para productos regulados.
El proyecto de ley español y el papel de la AESIA
España aún no tiene ley propia de IA en vigor. Lo que hay es el proyecto de ley orgánica para la gobernanza de la inteligencia artificial, en tramitación desde junio de 2026. No transpone el reglamento: designa autoridades y concreta las sanciones. La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) queda como organismo central, junto con la AEPD en materia de protección de datos, el Banco de España y la CNMV en el ámbito financiero y el CGPJ en justicia.
¿Qué se espera en 2027?
Diciembre de 2027 concentra buena parte del trabajo de adecuación. Quien opere agentes en cribado de personal, solvencia, seguros, biometría o infraestructuras críticas entra en el régimen de alto riesgo: gestión de riesgos, gobernanza de datos, registro de eventos y supervisión humana.
El aplazamiento cambia la fecha de exigibilidad, no el trabajo necesario. Un programa de adecuación para alto riesgo lleva meses de inventario, documentación y pruebas. Empezar en 2027 con vencimiento en diciembre de 2027 es llegar tarde.
- La gobernanza debe acompañar todo el ciclo de vida del agente, también cuando cambia de proveedor, modelo o finalidad. Un control válido hoy puede dejar de ser suficiente tras una modificación aparentemente menor.
- La calidad de la gobernanza también depende de las decisiones organizativas. Compras, seguridad, negocio y cumplimiento necesitan criterios compatibles para evitar que cada área evalúe los agentes con estándares y prioridades diferentes.
¿Qué buscan los marcos de gobernanza de IA fuera de la Unión Europea?
Del riesgo contextual del NIST AI RMF a la certificación ISO/IEC 42001
El NIST AI RMF, marco estadounidense de riesgos, es voluntario y se ordena en cuatro funciones: gobernar, mapear, medir y gestionar. No enumera usos prohibidos: exige describir el contexto de cada sistema, medirlo y vigilarlo. Allí la presión llega por vía contractual: el cliente pide evidencia de control. La norma ISO/IEC 42001 aporta la otra pieza, un sistema de gestión de IA certificable, aunque ninguna equivale a conformidad con el reglamento europeo.
La laguna que comparten los dos marcos
Ambos se diseñaron cuando la separación entre la actuación humana y la del sistema estaba más claramente delimitada, y cubren mal la autorización de herramientas, la cadena de delegación y el comportamiento emergente. La referencia más útil hoy es el OWASP Top 10 para aplicaciones agénticas, de diciembre de 2025. De ahí que las mejores prácticas de gobernanza de IA agéntica vayan más allá de cualquier marco general.
Sectores donde gobernar la IA agéntica es crítico
La urgencia se concentra donde el agente ejecuta acciones irreversibles o que afectan a derechos:
- Banca, seguros y finanzas: operaciones y decisiones de solvencia.
- Recursos humanos: cribado de candidaturas y desempeño.
- Sanidad: apoyo a la decisión clínica, triaje e historiales.
- Administración pública y justicia: expedientes y resoluciones sobre ciudadanos.
- Ciberseguridad y operaciones de TI: permisos de escritura o ejecución de código.
- Industria, energía y logística: infraestructuras críticas y cadenas de suministro.
La coincidencia con el anexo III no es casual: ahí el legislador ya identificó un impacto directo sobre las personas.
La supervisión humana no es un botón de confirmación ni una firma al final del proceso. Exige información suficiente para entender qué hará el agente, tiempo para verificarlo antes de que la acción surta efecto y capacidad de detenerlo. Falta una cuarta condición que casi siempre se olvida: quien supervisa debe comprender cómo funciona el sistema, con sus límites y sus modos de fallo. Sin ese conocimiento, la supervisión solo legitima lo que nadie ha comprobado.
Empieza por saber qué agentes están operando, para qué se usan y quién responde por ellos. Prioriza aquellos con mayor autonomía o impacto.
Dale una identidad propia y solo los accesos imprescindibles. Define además qué herramientas puede utilizar y hasta dónde puede actuar solo.
Fija límites para operaciones sensibles y exige intervención humana cuando una acción pueda mover dinero, borrar datos o afectar a terceros.
Conserva un rastro de decisiones y acciones, detecta comportamientos fuera de lo habitual y vuelve a probar el agente cada vez que cambie.
Mejores prácticas de gobernanza de IA agéntica
- Depender de controles ofrecidos únicamente por el proveedor puede crear puntos ciegos. La empresa debe comprobar qué puede auditar directamente y qué evidencia seguirá disponible si cambia de plataforma o termina el contrato.
Quién debe encargarse de la gobernanza de los agentes
La gobernanza de IA agéntica empieza por una decisión que no es técnica. Cada agente en producción necesita un responsable nombrado del negocio, no del equipo que lo construyó: quien responde del proceso responde del agente que lo ejecuta. Junto a esa figura debe existir un comité integrado por representantes de seguridad, protección de datos, asesoría jurídica y arquitectura, con tres competencias: autorizar la producción, revisar cambios relevantes y ordenar la retirada. Un marco de gobernanza de IA que nadie firma no gobierna nada: la política de uso de agentes debe fijar quién decide y quién puede parar.
Inventario y clasificación de agentes por autonomía y riesgo
No se gobierna lo que no se conoce. El inventario debe recoger también los agentes desplegados sin aprobación, esa IA en la sombra que surge cuando un departamento conecta una herramienta por su cuenta. Campos mínimos: propósito, responsable, modelo, herramientas accesibles, datos que trata, permisos y reversibilidad de sus acciones.
Después, hay que clasificar en dos ejes. El de autonomía distingue tres niveles: sugiere sin actuar, actúa previa aprobación o actúa por su cuenta. El de impacto valora si la acción es reversible, si mueve dinero, si afecta a datos personales o a derechos de terceros. La combinación fija el nivel de control y evita el error más común: el mismo protocolo para un resumidor interno y para un agente que emite pagos.
Identidad propia y privilegio mínimo para cada agente
Un agente no debe actuar con las credenciales de la persona que lo lanza. Necesita identidad propia, distinguible en los registros y revocable por separado. Sobre ella se aplica el principio de mínimo privilegio: acceso solo a lo que la tarea requiere y únicamente mientras sea necesario. Los permisos caducan al terminar la tarea, no persisten entre sesiones ni usuarios. Las fugas más costosas no vienen de un modelo defectuoso, sino de un agente correcto con más permisos de los necesarios.
Límites de acción, autorización de herramientas y aprobación humana
La autonomía se acota por diseño, no por confianza. Tres controles funcionan bien en la práctica:
- Catálogo cerrado de herramientas. El agente solo invoca funciones autorizadas de forma explícita, con nombres verificados para evitar suplantaciones.
- Umbrales cuantitativos. Importe máximo, número de destinatarios o cantidad de registros modificables por ejecución. Al superarlos, decide una persona.
- Aprobación humana en lo irreversible. Pagos, comunicaciones externas, borrados y cambios de configuración no se ejecutan sin visto bueno. Mejor pocos puntos críticos: si el sistema pide confirmación decenas de veces al día, la persona aprueba sin leer.
Trazabilidad de agentes de IA: decisiones, memoria y delegación
Cuando algo sale mal, la pregunta no es qué respondió el agente, sino por qué actuó así. Responderla exige registrar el plan que elaboró, las herramientas invocadas con sus parámetros, el resultado de cada llamada, los datos que incorporó y quién delegó la tarea. Con varios agentes implicados, la cadena de delegación debe poder reconstruirse. La memoria merece tratamiento aparte: debe estar acotada, tener una caducidad definida y no arrastrar datos de un usuario a la sesión de otro.
¿Qué evidencia hay que conservar?
- Inventario con la clasificación de riesgo de cada agente y su historial.
- Autorización de puesta en producción, con fecha y responsable.
- Registros de ejecución, permisos y acciones aprobadas o denegadas por una persona.
- Resultados de las pruebas previas y revisiones posteriores.
- Incidentes, decisiones adoptadas y medidas correctoras.
Esa documentación cubre buena parte de una auditoría de sistemas de IA y anticipa las exigencias del régimen de alto riesgo de 2027.
Pruebas antes del despliegue y monitorización continua
Antes de producción, el agente debe operar en un entorno aislado y someterse a pruebas adversarias: documentos con instrucciones ocultas, herramientas con nombres engañosos y escenarios que le empujen a exceder sus límites. Después, la vigilancia no se detiene: umbrales de alerta sobre volumen de acciones y patrones anómalos, un mecanismo de parada inmediata y repetición de las pruebas cuando cambia el modelo o se añade una herramienta. Una actualización del modelo base puede alterar el comportamiento sin tocar una línea de código.
Cómo empezar: hoja de ruta por fases
- Semanas 1 a 6. Inventario de agentes, incluida la IA en la sombra, responsables asignados y clasificación por autonomía e impacto.
- Semanas 7 a 14. Identidad, permisos, límites y trazabilidad en los agentes de mayor impacto.
- Desde la semana 15. Pruebas adversarias, monitorización y revisión periódica del inventario.
Aplicar las mejores prácticas de gobernanza de IA agéntica no frena la adopción: es la condición para escalarla sin sobresaltos. La ventaja no será desplegar agentes antes que nadie, sino demostrar que se controlan. Contenido divulgativo, sin valor de asesoramiento jurídico.
- Un incidente no debería ser el momento de decidir quién interviene. Conviene definir previamente responsables, canales de escalado y criterios de suspensión para que la respuesta sea rápida y verificable cuando aparezca una anomalía.
- La documentación pierde valor si no refleja el sistema realmente desplegado. Versiones, integraciones y cambios relevantes deben quedar sincronizados con los registros internos para que una revisión reproduzca la situación efectiva del agente.
