La gobernanza de los agentes de IA se convierte en un desafío clave para las empresas
Por qué la gobernanza se ha vuelto un problema para los agentes de IA
La expansión de sistemas de inteligencia artificial capaces de realizar tareas antes ejecutadas por personas plantea un nuevo dilema para las organizaciones: cómo monitorear y controlar programas que pueden tomar decisiones y actuar con distintos grados de autonomía.
Una proyección de Gartner indica que, para 2027, el 40 % de las empresas podrían reducir o desactivar agentes autónomos de IA debido a fallos de gobernanza detectados después de que los sistemas entraran en funcionamiento.
Este número no significa que cuatro de cada diez agentes serán desconectados. La estimación se refiere a las empresas que podrían limitar la autonomía o dejar de utilizar estos agentes por problemas de control, seguridad, cumplimiento o gestión.
Los agentes de IA son programas diseñados para realizar etapas de una tarea con mayor independencia que un chatbot convencional. Según su configuración, pueden consultar datos, sugerir acciones, modificar información, enviar mensajes o ejecutar procesos en otros sistemas.
Esta capacidad amplía el potencial de aplicación de la tecnología en el trabajo, pero también aumenta los riesgos. Por ejemplo, un agente con acceso a sistemas internos puede causar daños a mayor escala que una herramienta utilizada solo para generar texto.
Según Gartner, un error común es tratar la gobernanza como una elección binaria: bloquear completamente al agente o confiar en él sin establecer controles adecuados según su nivel de autonomía.
La recomendación es adoptar distintos niveles de gobernanza. Un agente que solo lee documentos no representa el mismo peligro que otro capaz de alterar datos o ejecutar acciones sin aprobación humana.
Cuanto más autonomía, mayor es la necesidad de control
Gartner clasifica a los agentes en varios niveles. Los más simples pueden solo observar información o generar recomendaciones. En niveles superiores, el sistema puede ejecutar una acción tras la aprobación humana o operar de forma autónoma dentro de límites predefinidos.
En la práctica, esto exige que las empresas sepan exactamente qué datos puede acceder cada agente y qué operaciones puede realizar.
Por ejemplo, un programa utilizado para resumir documentos puede tener solo permiso de lectura. En cambio, un agente responsable de actualizar registros financieros necesitaría permisos más restrictivos, mecanismos de aprobación, registro de acciones y formas de interrumpir su operación.
Para los agentes más autónomos, Gartner recomienda controles como el monitoreo continuo, mecanismos de interrupción, la posibilidad de revertir acciones y la definición clara de quién es responsable del comportamiento del sistema.
El riesgo de crear agentes sin saber dónde están
El problema no se limita a los agentes desarrollados formalmente por los departamentos de tecnología. La difusión de herramientas de inteligencia artificial también puede llevar a los empleados a crear soluciones por su cuenta, un fenómeno conocido como shadow AI.
En abril de 2026, Gartner afirmó que solo el 13 % de las organizaciones consideraban tener una gobernanza adecuada para sus agentes de IA. La consultora también proyectó que una empresa promedio de la lista Fortune 500 podría tener más de 150 000 agentes en uso para 2028.
En este contexto, mantener un inventario de los agentes se convierte en una etapa esencial de control. Las empresas necesitan identificar qué sistemas existen, quién los creó, qué datos acceden, qué acciones pueden ejecutar y cuándo deben ser revisados o desactivados.
Los agentes de IA también pueden ser descontinuados por falta de resultados
La gobernanza no es el único motivo por el que un proyecto de agente puede ser cancelado. En 2025, Gartner ya había previsto que más del 40 % de los proyectos de inteligencia artificial agentiva serían cancelados para finales de 2027 debido a costos elevados, falta de valor claro o controles de riesgo insuficientes.
La previsión muestra que poner un agente en funcionamiento no garantiza su continuidad. El proyecto debe demostrar resultados, tener costos controlados y operar dentro de límites definidos.
Para los profesionales que trabajan directamente con inteligencia artificial, esto también cambia el perfil de las competencias requeridas. Además de dominar las herramientas, los involucrados en la implementación de estos sistemas necesitan comprender permisos, datos, supervisión humana, seguridad y criterios para evaluar el desempeño de los agentes.
La tendencia indica que el debate sobre los agentes de IA debería pasar de la capacidad técnica a cuestiones de responsabilidad, control y confiabilidad. Cuanto mayor sea la autonomía concedida a un sistema, mayor será la necesidad de definir previamente qué puede hacer, qué datos puede acceder y cuándo una persona debe intervenir.
Para las empresas, la gobernanza pasa a formar parte del propio proceso de implementación de la inteligencia artificial, y no solo de una etapa posterior al desarrollo de la tecnología.








