Saltar al contenido principal
Base de conocimiento

Cuándo debe recomendar la IA y cuándo deben decidir las personas

DBR77 Team8 min de lectura

En esta página

Deje que la IA actúe por sí sola solo donde una acción errónea sale barata, se revierte rápido y está dentro de límites escritos. Deje que recomiende, con un rol designado que aprueba, donde una decisión cambia el plan, el producto, el coste o la seguridad. Todo lo demás empieza en "observar": la IA vigila y avisa, las personas actúan. Fije el nivel por tipo de decisión, no por sistema de IA, y suba una decisión de nivel solo con pruebas.

Una planta tiene que establecer para qué decisiones confiar en la IA, con qué reglas y quién responde del resultado.

Por qué "IA o persona" es la pregunta equivocada

Una planta toma cientos de decisiones al día. La mayoría son pequeñas: qué tarea primero, qué orden después. Unas pocas son grandes: liberar un lote, cambiar una receta, parar una línea. Someterlas todas a una misma regla no tiene sentido. Si cada sugerencia de la IA necesita la firma de un directivo, nada avanza. Si ninguna la necesita, la planta pierde el control de las decisiones que importan.

Toyota resolvió una versión de este problema mucho antes de la IA. Su idea de jidoka, "automatización con un toque humano", permite que una máquina detecte la anomalía y se detenga automáticamente. La máquina se encarga de la rutina y de la parada. Las personas responden a la anomalía y, como dice Toyota, solo las personas pueden aplicar kaizen. Toyota diseñó ese reparto del trabajo entre máquina y persona, y la IA en operaciones necesita el mismo diseño deliberado.

La IA puede observar, aconsejar o actuar, y observar es el nivel por defecto para todo lo nuevo.

Matriz de tres decisiones de ejemplo en una planta de moldeo: coste de una acción errónea, nivel de la IA y quién decide

Tres niveles: observar, aconsejar, actuar

NivelQué hace la IAQué hace la personaDecisiones típicasRegla de aprobación
ObservarVigila los datos, señala desviaciones, resumeDecide si actuar y qué hacerObservaciones de seguridad, líneas nuevas, nuevos usos de la IASin paso de aprobación; la persona es responsable de la acción
AconsejarRecomienda una acción con sus razones y un nivel de confianzaLa aprueba, la modifica o la rechazaCambios de programación, prioridad de órdenes de trabajo, causa raíz probable, destino de un loteUn rol designado aprueba dentro de un plazo; si no, se escala
ActuarEjecuta la acción dentro de límites escritos y la registraLa revisa después y puede revertirlaBorradores de tareas, órdenes de trabajo a partir de un umbral, reaprovisionamientos rutinarios por debajo de un valor fijadoSolo se permite para acciones baratas, reversibles y acotadas

Al principio, la mayoría de las plantas sitúan casi todo en "aconsejar", y es un buen comienzo. "Actuar" debe ser poco frecuente y limitado. "Observar" es el nivel por defecto para todo lo nuevo.

Cinco preguntas que fijan el nivel

Para cada tipo de decisión, responda a lo siguiente:

  1. ¿Cuánto cuesta una acción errónea? ¿Chatarra, un envío perdido, un riesgo de seguridad o diez minutos de retrabajo?
  2. ¿Se puede revertir? Una tarea se puede reasignar. Un lote expedido no se puede retirar de forma barata.
  3. ¿Con qué rapidez debe ocurrir? Si el valor está en los segundos, una persona en el circuito puede ser demasiado lenta, así que fije límites estrictos en su lugar.
  4. ¿Qué calidad tienen las pruebas? ¿Están limpios los datos y ha acertado la IA antes en esta decisión?
  5. ¿Está regulada o tiene que ver con la seguridad? Si es así, decide una persona, sean cuales sean las demás respuestas.

Ejemplo ilustrativo: una planta de moldeo de plásticos revisa tres decisiones. Intercambiar dos órdenes en la misma prensa dentro de un turno es barato y reversible, así que se sitúa en "aconsejar", y el planificador aprueba con un clic. Liberar un lote bloqueado por calidad tras un control fallido es costoso y difícil de revertir, así que se queda en "aconsejar" con el responsable de calidad como único aprobador, y nunca pasa a "actuar". Abrir una orden de trabajo cuando la temperatura del agua de refrigeración supera un límite fijado durante 10 minutos es barato y acotado, así que se sitúa en "actuar": se crea la orden de trabajo, un técnico es su responsable y el jefe de turno la ve en el relevo.

Cómo redactar reglas de aprobación

Una regla de aprobación es breve y responde a seis cuestiones:

  • Quién aprueba: un rol, no una persona, para que la regla funcione en todos los turnos.
  • El plazo: cuánto tiempo puede esperar la recomendación.
  • Qué pasa si no hay respuesta: se escala al siguiente rol. Por defecto, nada cambia en la línea.
  • Qué ve quien aprueba: los datos utilizados, el razonamiento y el nivel de confianza.
  • Qué queda registrado: la recomendación, la decisión, quién la tomó y, en caso de anulación, por qué.
  • Cómo parar: quién puede devolver de inmediato la decisión a "observar".

La ley apunta en la misma dirección para la IA de alto riesgo. El artículo 14 del Reglamento de IA de la UE exige que las personas que supervisan estos sistemas puedan interpretar correctamente la salida del sistema de IA de alto riesgo, puedan descartarla, anularla o revertirla, y puedan interrumpir el sistema mediante un botón de "parada" o un procedimiento similar. Si un uso concreto en planta se considera de alto riesgo es una cuestión jurídica, pero la lista es una buena referencia para comprobar cualquier regla de aprobación.

El NIST AI Risk Management Framework, una guía voluntaria para gestionar mejor los riesgos de la IA para las personas y las organizaciones, es una referencia útil cuando una planta redacta su propia política de IA.

Cuándo subir o bajar una decisión de nivel

Revise los niveles cada mes, por ejemplo en la reunión de nivel 3. Para cada tipo de decisión, mire con qué frecuencia se aceptan las recomendaciones, con qué frecuencia se modifican y por qué, y con qué frecuencia una recomendación aceptada resultó ser errónea.

Suba una decisión un nivel solo cuando la aceptación es alta, las anulaciones son raras y están bien explicadas, y los errores salen baratos. Bájela de inmediato tras un error costoso, un producto nuevo o un cambio en los datos. Para mantener responsables claros entre turnos, consulte Cómo mantener clara la responsabilidad entre turnos; para los registros que respaldan cada decisión, consulte Cómo mantener registros de las decisiones de fábrica listos para auditoría.

Cómo funciona en DBR77 IRIS

En DBR77 IRIS, las recomendaciones de Data & AI esperan a que una persona las aplique, apruebe, rechace o posponga, y cada una muestra en qué se basa su puntuación: la regla, la fórmula y los datos de entrada. La puntuación es la prioridad de una regla, para que nadie la confunda con la certeza de un modelo. El asistente de IRIS solo lee datos y documentos, y la pantalla Compliance mantiene un registro de los usos de la IA y de las decisiones de alto riesgo.

Una recomendación aprobada se convierte en una tarea con responsable y, después, en una orden de trabajo, un cambio de programación o un ajuste de parámetros. En IRIS APS, las versiones del plan y los flujos de aprobación garantizan que las personas adecuadas den su visto bueno antes de que un plan llegue a planta. El registro guarda cada recomendación, la decisión sobre ella y el resultado, y el resultado sirve para mejorar la siguiente sugerencia. Lo que la IA puede hacer realmente hoy en las operaciones de fábrica sugiere con qué usos empezar.

Preguntas frecuentes

¿Puede la IA actuar alguna vez sin aprobación?

Sí, en acciones limitadas que son baratas, reversibles y están dentro de límites escritos, como abrir una orden de trabajo a partir de un umbral. La acción queda registrada y tiene una persona responsable.

¿Quién responde cuando una recomendación aprobada es errónea?

El rol que la aprobó, como en cualquier decisión. El registro muestra lo que vio quien aprobó, así que la revisión puede averiguar si lo que hay que corregir es la regla o los datos.

¿No ralentizarán las aprobaciones el turno?

No si las reglas son breves y se fijan según el riesgo. Las aprobaciones de bajo riesgo llevan un clic. Solo unos pocos tipos de decisión necesitan un aprobador de nivel superior.

Conclusión

Haga una lista de las decisiones que sus planificadores, técnicos y equipo de calidad toman cada semana, pase cada una por las cinco preguntas y asígnele un nivel con una regla de aprobación escrita, un plazo, un registro y una forma de parar. Empiece la mayoría en "aconsejar" y deje la seguridad y la liberación de calidad en manos de las personas. Revise los niveles cada mes y suba una decisión de nivel solo cuando las tasas de aceptación, anulación y error indiquen que es seguro.

Fuentes