Humano en el loop: quién aprueba cuando un agente de IA propone actuar

Definición

Humano en el loop (human-in-the-loop) es un diseño en el que un sistema automatizado necesita la aprobación de una persona para completar ciertas acciones. En un agente de IA industrial, el agente detecta, analiza y prepara —una orden de trabajo, una alerta, un cambio de dotación— y una persona con la autoridad correspondiente aprueba, corrige o rechaza. La automatización no es todo o nada: desde Sheridan y Verplank (1978), la literatura de factores humanos la describe como una escala de niveles entre el control manual y la autonomía completa.

Qué automatizar y qué no

El criterio no es la tecnología sino la consecuencia de equivocarse. Una clasificación práctica:

La regla práctica: mientras más cuesta revertir una acción, más cerca de una persona tiene que estar la decisión.

El flujo recomendado

1. Señal: el gemelo detecta una desviación en datos del historian o de los sistemas de gestión.
2. Recomendación: explica la causa probable con datos de origen, nivel de confianza y alternativas con sus trade-offs.
3. Orden de trabajo: el agente deja la OT preparada en el ERP o el CMMS, con la evidencia adjunta, en estado pendiente.
4. Aprobación: la persona responsable —supervisor de turno, jefe de planta— aprueba, modifica o rechaza.
5. Registro: cada paso queda con fecha, autor y datos usados, para auditoría y para medir después si la recomendación era correcta.

Ejemplo ilustrativo CV-102, correa overland (Antofagasta): temperatura del rodamiento del pulley de cola sobre el umbral de 66 °C → causa raíz rodamiento 3 (confianza 87%) → OT 4471 en SAP PM → aprobación del supervisor del turno B → ejecución registrada. En packaging, ejemplo ilustrativo L-3 (Quilicura): OT 2210 al CMMS, pendiente de aprobación del jefe de planta.

Auditoría y responsabilidad de control

Un registro auditable responde cuatro preguntas: qué recomendó el sistema, con qué datos, quién aprobó y qué se ejecutó. Sin esas respuestas no se puede revisar un error ni aprender de él. Los rechazos también se registran, con su motivo: son el mejor dato para mejorar el modelo.

La responsabilidad no se traslada al software. El gemelo recomienda; la responsabilidad de control sigue donde siempre estuvo — en operadores, supervisores y la cadena de mando que define la planta o la faena. Por eso un agente de gestión no debería escribir en sistemas de control: el control tiene sus propias capas de protección y sus propios responsables.

Como referencia internacional, el Reglamento europeo de IA (UE 2024/1689) pide en su artículo 14 que los sistemas de alto riesgo puedan ser vigilados por personas que entiendan sus capacidades y límites, estén atentas al sesgo de automatización y puedan decidir no usar, desestimar o revertir su resultado. No es norma chilena, pero describe bien lo que una supervisión real necesita.

Errores comunes

• Aprobación de un clic: si quien aprueba no ve la evidencia, la aprobación es un trámite.
• Sesgo de automatización: aprobar todo porque el sistema casi siempre acierta.
• Pedir aprobación para todo: el supervisor deja de leer y la aprobación pierde valor.
• No definir antes quién aprueba qué, y descubrirlo con la primera OT.
• Registrar solo lo aprobado: sin los rechazos, no se sabe cuándo el sistema se equivoca.

Cómo lo aborda IADEIAS Twin

En IADEIAS Twin los agentes de acción (C4) trabajan en SAP PM, CMMS, correo y mensajería, CRM y tickets — nunca en sistemas de control — y cada acción queda registrada. Sobre el historian, el gemelo solo lee, por diseño. La aprobación humana va donde importa, y cada recomendación llega con datos de origen y nivel de confianza. Detalles en Actúa, seguridad y la conexión con SAP; cómo se construye la recomendación, en análisis de causa raíz.

Preguntas frecuentes