Por qué la adopción de agentes de IA en las empresas sigue enfrentando desafíos de gobernanza y evaluación

2–3 minutos

La implementación de agentes de inteligencia artificial ha avanzado rápidamente, pero las cifras varían según el método de medición empleado. Una encuesta de PwC revela que el 79 % de los ejecutivos afirman que sus organizaciones ya utilizan agentes de IA. Sin embargo, estudios que analizan sistemas efectivamente en operación muestran porcentajes mucho menores.

Un informe elaborado por BvLogic indica que solo el 31 % de las empresas tienen al menos un agente de IA en producción. Esta discrepancia explica por qué muchas compañías experimentan con la tecnología sin integrarla realmente en sus operaciones diarias.

Del ensayo a la operación: un salto que requiere más que una demostración

Desarrollar un agente capaz de realizar una tarea en un entorno controlado puede ser relativamente sencillo. La situación cambia cuando el agente necesita acceder a sistemas internos, manipular datos reales, seguir normas corporativas y seguir funcionando ante situaciones no previstas durante las pruebas.

Un agente puede mostrar resultados impresionantes en una demostración, pero eso no significa que esté listo para ejecutar actividades que impactan a clientes, pagos, documentos o procesos internos sin una supervisión adecuada.

La gobernanza define los límites de la autonomía

Cuanto mayor sea la autonomía concedida a la tecnología, mayor será la necesidad de establecer límites claros. ¿Quién puede autorizar una acción? ¿Qué información puede acceder el agente? ¿Cuándo es obligatoria una revisión humana? ¿Qué ocurre cuando la herramienta se equivoca?

Un estudio de Kore.ai revela que el 62 % de las empresas encuestadas ya han pospuesto implementaciones por preocupaciones sobre gobernanza y observabilidad, mientras que el 53 % admite haber puesto un agente en producción sin comprender o confiar completamente en su comportamiento.

Una evaluación rigurosa es esencial para llevar proyectos piloto a la producción

Medir si un agente realmente funciona para la tarea propuesta es otro punto crítico. Probar la tecnología solo por la calidad de algunas respuestas puede ocultar fallos que surgen cuando tiene que manejar cientos o miles de situaciones diferentes.

BvLogic señala que las lagunas en la evaluación están entre los principales obstáculos para que los proyectos de agentes avancen hacia la producción. Según los datos recopilados por la organización, el 88 % de los proyectos piloto no llegan a esta etapa.

Por ello, antes de ampliar su uso, las empresas deben definir criterios objetivos: qué tareas se automatizarán, qué resultados se esperan, qué errores son aceptables y en qué momentos la intervención humana es obligatoria.

El profesional debe asumir un nuevo papel ante la automatización

La expansión de los agentes de IA modifica el tipo de conocimiento necesario dentro de las organizaciones. Los profesionales involucrados en estos proyectos deben comprender los procesos, identificar dónde la automatización tiene sentido, monitorear los resultados y reconocer situaciones que requieren intervención humana.

Esto se aplica a las áreas de tecnología, pero también al marketing, la atención al cliente, los recursos humanos, las finanzas y las operaciones. Cuanto más ejecuta un agente las etapas de un proceso, mayor es la importancia de quien puede supervisar su trabajo y conectar la tecnología con los objetivos reales del área.