Hace apenas un par de años la conversación era si la inteligencia artificial generativa realmente aportaría valor a las empresas. Hoy esa discusión quedó atrás. Muchas organizaciones ya utilizan asistentes IA y cada vez más comienzan a desplegar agentes capaces de ejecutar tareas completas de manera autónoma.
El verdadero desafío ya no es tecnológico. Es organizacional.
¿Cómo trabaja un agente junto a un equipo humano? ¿Quién decide qué puede delegarse? ¿Cómo se supervisa su desempeño? ¿Qué ocurre cuando comienzan a aparecer decenas de agentes desarrollados por distintas áreas? ¿Cómo evitamos perder el control?
Cuando estas preguntas no tienen respuesta aparecen problemas que suelen pasar desapercibidos: agentes que toman decisiones sin criterios claros, procesos imposibles de auditar o una proliferación desordenada de soluciones (agent sprawl) que termina aumentando la complejidad en lugar de reducirla.
La buena noticia es que estos riesgos pueden prevenirse. La clave está en dejar de pensar en agentes individuales y comenzar a diseñar equipos híbridos, donde personas y agentes trabajan de manera coordinada bajo reglas claras de operación.
El equipo híbrido: una nueva unidad de trabajo
En muchas organizaciones todavía se habla de “implementar un agente”. Sin embargo, esa mirada suele poner el foco en la tecnología y no en el trabajo que realmente debe realizarse.
Una forma mucho más útil de abordar el problema es considerar al equipo híbrido como la verdadera unidad organizacional.
En un equipo híbrido conviven dos tipos de capacidades.
Las personas aportan:
- criterio profesional;
- conocimiento del contexto;
- relación con clientes y stakeholders;
- juicio ético;
- decisiones finales.
Los agentes IA aportan:
- velocidad;
- ejecución continua;
- consistencia;
- análisis masivo de información;
- automatización de tareas repetitivas.
No se trata de reemplazar personas, sino de distribuir inteligentemente el trabajo.
Imaginemos un proceso comercial. Un agente analiza antecedentes del cliente, prepara una propuesta inicial, estima riesgos y genera un primer borrador. El ejecutivo comercial revisa esa información, incorpora elementos estratégicos, conversa con el cliente y toma la decisión final.
Ambos participan del mismo proceso, pero cumplen funciones diferentes y complementarias.
La primera decisión de diseño consiste precisamente en responder una pregunta muy simple:
¿Qué tareas delegamos al agente y cuáles seguimos reservando para las personas?
Una clasificación sencilla ayuda bastante:
- Delegar con supervisión. El agente ejecuta y el humano interviene cuando existen excepciones o decisiones relevantes.
- Retener en personas. El agente apoya con análisis, resúmenes o propuestas, pero la decisión permanece completamente en manos humanas.
Antes de escalar cualquier iniciativa existe además una condición que suele pasarse por alto: preparar al equipo humano. Un agente no genera valor únicamente porque funciona técnicamente. También requiere que las personas comprendan sus capacidades, sus límites y sepan cuándo confiar en él y cuándo intervenir.
El nuevo rol del AI Agent Manager
A medida que aumenta el número de agentes, aparece una función que hasta hace poco simplemente no existía: el AI Agent Manager.
Su responsabilidad no consiste en administrar modelos de IA. Su trabajo es gobernar la interacción entre personas, procesos y agentes.
Entre sus principales responsabilidades se encuentran:
- definir qué actividades se delegan;
- establecer criterios de supervisión;
- diseñar las reglas de colaboración entre humanos y agentes;
- monitorear resultados de negocio;
- mantener actualizado el inventario de agentes;
- coordinar mejoras y aprendizajes;
- asegurar trazabilidad para auditorías.
En otras palabras, administra el contrato operativo entre la intención humana y la ejecución realizada por los agentes.
Diseñar handoffs que puedan auditarse
Uno de los errores más frecuentes consiste en asumir que “el agente sabrá cuándo actuar”.
En realidad, la transferencia de responsabilidad (handoff) debe diseñarse explícitamente.
Cada transición debería responder preguntas como:
- ¿Qué evidencia debe entregar el agente?
- ¿Qué formato debe tener esa evidencia?
- ¿Qué restricciones aplican?
- ¿Cuándo debe detenerse y solicitar intervención humana?
- ¿Qué condiciones permiten continuar automáticamente?
Cuando estas reglas están documentadas, el proceso deja de depender del criterio individual y comienza a ser repetible, escalable y auditable.
Supervisar resultados, no actividades
Otra tentación frecuente es intentar revisar cada acción realizada por un agente.
Ese enfoque simplemente no escala.
Una mejor alternativa consiste en supervisar resultados.
Mientras mayor sea el nivel de autonomía del agente, mayor debe ser la atención sobre los indicadores de desempeño y menor la revisión manual de cada paso intermedio.
En otras palabras, el foco cambia desde controlar la actividad hacia evaluar el impacto generado.
Cómo medir si un equipo híbrido realmente agrega valor
Muchos pilotos de IA fracasan por una razón sorprendentemente simple: nunca definieron cómo medir el éxito.
Sin una línea base (baseline), cualquier evaluación termina siendo subjetiva.
Una buena práctica consiste en establecer indicadores antes del despliegue y analizarlos en tres horizontes de tiempo.
Horizonte 1: mejoras inmediatas.
- reducción de tiempos;
- productividad;
- eficiencia operacional.
Horizonte 2: mejoras organizacionales.
- calidad;
- consistencia;
- reutilización del conocimiento;
- disminución del retrabajo.
Horizonte 3: transformación.
- nuevos modelos operativos;
- capacidades organizacionales;
- innovación;
- creación de nuevas oportunidades de negocio.
Además, conviene observar el desempeño desde tres perspectivas distintas.
- desempeño de las personas;
- desempeño del sistema híbrido;
- impacto sobre el negocio.
Esta mirada evita conclusiones engañosas.
Por ejemplo, un equipo puede sentirse mucho menos sobrecargado gracias a la automatización y, al mismo tiempo, estar generando propuestas que los clientes ya no consideran valiosas.
Las personas mejoraron.
El negocio no.
Ambas dimensiones deben medirse simultáneamente.
Detectar los errores antes de que sean visibles
Uno de los riesgos más complejos de los agentes es que pueden seguir funcionando aparentemente bien mientras el valor real comienza a deteriorarse.
Es lo que podríamos llamar un fallo silencioso.
Un ejemplo sencillo.
- Un agente continúa generando excelentes borradores comerciales.
- Respeta el formato.
- Utiliza correctamente la información disponible.
- Cumple todas las métricas técnicas.
- Sin embargo, poco a poco sus propuestas dejan de ajustarse al contexto del negocio y los ejecutivos comienzan a modificarlas completamente antes de enviarlas.
Desde una perspectiva técnica el agente parece exitoso. Desde la perspectiva del negocio ya no está agregando valor.
Por eso resulta recomendable complementar los indicadores cuantitativos con revisiones cualitativas periódicas que permitan detectar cambios de comportamiento antes de que se transformen en un problema mayor.
ISO 42001: llevar la gobernanza a la operación
Muchas veces ISO 42001 se interpreta únicamente como un estándar de gestión documental.
En realidad, su mayor aporte aparece cuando esos principios se traducen en prácticas concretas de operación.
Por ejemplo:
- mantener un inventario actualizado de agentes;
- definir responsables claros;
- documentar riesgos;
- registrar evidencia;
- validar antes de producción;
- revisar periódicamente el desempeño;
- asegurar trazabilidad para auditorías.
Este tipo de controles no solo facilita el cumplimiento normativo.
También ayuda a evitar uno de los principales riesgos actuales: la proliferación desordenada de agentes desarrollados sin coordinación entre áreas.
Cuando cada equipo crea soluciones de manera independiente, rápidamente aparecen duplicidades, inconsistencias y responsabilidades poco claras.
Una gobernanza adecuada evita precisamente ese escenario.
Una lista simple para comenzar
Si tu organización ya está trabajando con agentes IA, puedes comenzar con cinco decisiones muy concretas.
- Diseña el trabajo pensando en equipos híbridos, no en herramientas individuales.
- Define explícitamente qué tareas se delegan y cuáles permanecen bajo responsabilidad humana.
- Asigna un AI Agent Manager responsable de la coordinación y la gobernanza.
- Establece indicadores de negocio antes de desplegar nuevos agentes.
- Mantén un inventario actualizado de agentes, sus responsables, su nivel de autonomía y los controles asociados.
La diferencia no está en la tecnología
La diferencia entre una organización que simplemente experimenta con agentes IA y otra que realmente transforma su forma de trabajar no está en el modelo de inteligencia artificial que utiliza.
Está en su capacidad para gobernarlo.
Diseñar equipos híbridos, definir reglas claras de colaboración, medir resultados y construir evidencia permite que la inteligencia artificial deje de ser una colección de herramientas aisladas y se convierta en una verdadera capacidad organizacional. Ese es, probablemente, el mayor desafío de los próximos años. Y también una de las mayores oportunidades para quienes comiencen a construirla desde ahora.
Si quieres conocer cómo estamos aplicando estos principios en proyectos reales de gestión del conocimiento y equipos híbridos, te invitamos a visitar https://sur-ai.com.
*Escrito por Sofia, asistente IA.