Cuándo debe recomendar la IA y cuándo deben decidir las personas en las operaciones
5 min de lectura
La IA debería ofrecer recomendaciones por defecto cuando el contexto sea ambiguo, las compensaciones afecten a varias funciones o el riesgo para la seguridad y la calidad sea significativo. Las personas deben decidir cuándo la acción es difícil de revertir, cuando implica la obligación de llevar un registro reglamentario o cuando supera un umbral de riesgo previamente acordado, incluso si el modelo parece seguro de sí mismo. Esto no es desconfianza hacia la IA. Se trata de hacer coincidir los derechos de decisión con la responsabilidad en entornos en los que «actuar rápido y pedir perdón» no es un principio operativo aceptable.
En los programas industriales bien gestionados, la IA actúa como una sólida función de apoyo: prepara opciones, señala las limitaciones y pone de relieve los antecedentes. Las personas conservan la autoridad en aquellos ámbitos en los que la organización asume la responsabilidad. Esa división es la clave para que la implantación supere el primer contacto con las auditorías, los clientes y la presión del turno de noche.
La clase de riesgo es un criterio sencillo pero útil. Las tareas de bajo riesgo —como la clasificación del ruido o la redacción de borradores de notas internas— suelen poder realizarse con ayuda sin restricciones. Las tareas de riesgo medio —como las bandas de prioridad sugeridas o las rutas propuestas— suelen encajar en los patrones de «recomendar y confirmar». Las tareas de alto riesgo —lanzamientos que modifican el estado de calidad frente al cliente, acciones que rozan la intención de interbloqueo— suelen requerir una toma de decisiones humana explícita respaldada por pruebas. Las acciones críticas —anulaciones por motivos de seguridad, autorizaciones de envío al cliente— deben seguir estando dirigidas por personas y contar con registros formales, con la IA aportando pruebas de apoyo, pero sin ser la encargada de dar el visto bueno definitivo.
La reversibilidad pone aún más de relieve esta misma idea. Las medidas fácilmente reversibles —como reordenar tareas no críticas o reasignar elementos de trabajo que no alteran los estados protegidos— permiten tolerar ciclos más rápidos. Las reversiones lentas o costosas —como la eliminación de material de desecho, los cambios importantes en la velocidad de la línea de producción o las acciones que implican compromisos de capital o con los clientes— deberían reforzar los controles humanos incluso cuando el modelo parezca seguro.
La filosofía solo se pone en práctica cuando se traduce en umbrales. Establece reglas que los operadores puedan reconocer: puntuaciones de gravedad que obliguen a la confirmación por parte de un supervisor, campos protegidos que requieran una aprobación basada en roles, objetos regulados que exijan pasos humanos auditables. Los umbrales deben ser visibles para el personal de planta, no estar ocultos en el código del modelo, donde nadie pueda explicar un fallo cuando se está bajo presión.
Los modelos mixtos fallan cuando la IA hace recomendaciones en una herramienta, las personas toman las decisiones en otra y el registro de auditoría se divide. El registro de la decisión debe ir asociado al elemento de trabajo, ya que es este el que la planta tendrá que justificar mañana.
La formación debe incluir el rechazo, no solo la aceptación. Los equipos deben practicar cómo aceptar rápidamente una buena recomendación, rechazarla indicando un código de motivo y escalar el asunto cuando falte contexto. Los códigos de motivo son la forma en que la planta aprende sin que las anulaciones se conviertan en motivo de vergüenza —o en una rebelión invisible—.
IRIS es importante porque las recomendaciones, las aprobaciones, los rechazos y el registro de auditoría deben integrarse en un único flujo de trabajo regulado. Esto permite que los derechos de decisión puedan inspeccionarse a nivel de operador, en lugar de perderse en un texto normativo que nadie sigue cuando la línea está en pleno funcionamiento.
Para conocer el ámbito de actuación de los agentes, consulta Qué puede hacer hoy en día un agente de IA en una fábrica. Para conocer los criterios de confianza de los responsables, véase Qué hace que la IA en fábrica sea fiable para los responsables de operaciones.
La distinción correcta no es «IA frente a humanos». Es «recomendación frente a decisión», en función del riesgo, la reversibilidad y la gobernanza. Haz esa distinción de forma explícita; de lo contrario, la planta lo hará de manera informal en los pasillos, donde nadie puede auditar el resultado.
El resultado operativo final
La promesa de este artículo —un marco claro de derechos de decisión basado en la clase de riesgo, la reversibilidad y la exposición regulatoria, además de cómo implementarlo como umbrales de aprobación en los flujos de trabajo— solo se hace realidad cuando cambia la forma en que se desarrolla el trabajo: una responsabilidad más clara, una primera asignación más rápida y un cierre que se pueda rastrear sin tener que rebuscar en el historial de la bandeja de entrada. En cuanto a «Cuándo debe recomendar la IA y cuándo deben decidir los humanos en las operaciones», considéralo como la prueba de aceptación: el siguiente turno debería poder leer lo que ha ocurrido, lo que se ha aprobado y lo que sigue pendiente, sin tener que recurrir a una reconstrucción verbal.
Haz que los equipos se atengan a una regla sencilla: si no se puede demostrar una mejora en los resultados a partir del registro de ejecución, aún no se trata de una mejora operativa, sino solo de una mejora retórica. Esa regla garantiza la honestidad de los programas cuando las demostraciones parecen buenas, pero los traspasos de responsabilidades siguen pareciendo frágiles. Si el registro es escaso, corrígelo antes de ampliar los objetivos.
DBR77 IRIS mantiene las recomendaciones, las decisiones humanas y los registros de auditoría vinculados a los mismos elementos de trabajo en los ámbitos de producción, almacén, calidad, mantenimiento y asignación de tareas. Iniciar demostración interactiva o Ver tutorial.
