Aller au contenu principal
Base de connaissances

Quand l'IA doit recommander et quand les personnes doivent décider

DBR77 Team8 min de lecture

Sur cette page

Laissez l'IA agir seule uniquement là où une mauvaise action coûte peu, se corrige vite et reste dans des limites écrites. Laissez-la recommander, avec un rôle nommé qui valide, là où une décision modifie le plan, le produit, le coût ou la sécurité. Tout le reste commence au niveau « observer » : l'IA surveille et signale, les personnes agissent. Fixez le niveau par type de décision, pas par système d'IA, et ne faites monter une décision d'un niveau que sur preuves.

Une usine doit fixer pour quelles décisions faire confiance à l'IA, selon quelles règles, et qui répond du résultat.

Pourquoi « l'IA ou l'humain » est la mauvaise question

Une usine prend des centaines de décisions par jour. La plupart sont petites : quelle tâche d'abord, quel ordre ensuite. Quelques-unes sont grandes : libérer un lot, modifier une recette, arrêter une ligne. Les soumettre toutes à une seule règle n'a pas de sens. Si chaque suggestion de l'IA demande la signature d'un manager, rien n'avance. Si aucune ne la demande, l'usine perd le contrôle des décisions qui comptent.

Toyota a résolu une version de ce problème bien avant l'IA. Son principe de jidoka, « l'automatisation à visage humain », permet à une machine de détecter l'anomalie et de s'arrêter automatiquement. La machine gère la routine et l'arrêt. Les personnes réagissent à l'anomalie et, comme le dit Toyota, seuls les humains peuvent mettre en œuvre le kaizen. Toyota a conçu cette répartition du travail entre la machine et la personne, et l'IA dans l'exploitation demande la même conception délibérée.

L'IA peut observer, conseiller ou agir, et « observer » est le niveau par défaut pour tout ce qui est nouveau.

Matrice de trois décisions types dans une usine de moulage : coût d'une mauvaise action, niveau de l'IA et qui décide

Trois niveaux : observer, conseiller, agir

NiveauCe que fait l'IACe que fait la personneDécisions typiquesRègle de validation
ObserverSurveille les données, signale les dérives, résumeDécide s'il faut agir et commentObservations sécurité, nouvelles lignes, nouveaux usages de l'IAPas d'étape de validation ; la personne est responsable de l'action
ConseillerRecommande une action avec ses raisons et un niveau de confianceLa valide, la modifie ou la rejetteChangements de planning, priorité des ordres de travail, cause racine probable, décision sur un lotUn rôle nommé valide dans un délai fixé, sinon escalade
AgirExécute l'action dans des limites écrites et la journaliseRevoit après coup et peut l'annulerProjets de tâches, ordres de travail sur seuil, réapprovisionnements courants sous une valeur fixéeAutorisé seulement pour des actions peu coûteuses, réversibles et encadrées

La plupart des usines placent presque tout au niveau « conseiller » au début, et c'est un bon départ. « Agir » doit rester rare et étroit. « Observer » est le niveau par défaut pour tout ce qui est nouveau.

Cinq questions qui fixent le niveau

Pour chaque type de décision, répondez aux questions suivantes :

  1. Que coûte une mauvaise action ? Des rebuts, une livraison manquée, un risque pour la sécurité, ou dix minutes de retouche ?
  2. Peut-elle être annulée ? Une tâche peut être réattribuée. Un lot expédié ne se rappelle pas à bas coût.
  3. À quelle vitesse doit-elle se faire ? Si la valeur se joue en secondes, une personne dans la boucle peut être trop lente : fixez plutôt des limites strictes.
  4. Les preuves sont-elles solides ? Les données sont-elles propres, et l'IA a-t-elle déjà eu raison sur cette décision ?
  5. Est-ce réglementé ou lié à la sécurité ? Si oui, une personne décide, quelles que soient les autres réponses.

Exemple illustratif : une usine de moulage plastique examine trois décisions. Intervertir deux ordres sur la même presse au cours d'une même équipe coûte peu et se corrige facilement, donc la décision est au niveau « conseiller », et le planificateur valide en un clic. Libérer un lot bloqué en qualité après un contrôle non conforme coûte cher et se corrige difficilement, donc la décision reste au niveau « conseiller » avec le responsable qualité comme seul valideur, et ne passe jamais à « agir ». Ouvrir un ordre de travail quand la température de l'eau de refroidissement dépasse une limite fixée pendant 10 minutes coûte peu et reste encadré, donc la décision est au niveau « agir » : l'ordre de travail est créé, un technicien en est responsable, et le chef d'équipe le voit à la relève.

Comment écrire les règles de validation

Une règle de validation est courte et répond à six points :

  • Qui valide : un rôle, pas une personne, pour que la règle fonctionne avec chaque équipe.
  • Le délai : combien de temps la recommandation peut attendre.
  • Ce qui se passe sans réponse : escalade vers le rôle suivant. Par défaut, rien ne change sur la ligne.
  • Ce que voit le valideur : les données utilisées, le raisonnement et le niveau de confiance.
  • Ce qui est journalisé : la recommandation, la décision, qui l'a prise et, en cas de dérogation, pourquoi.
  • Comment arrêter : qui peut ramener immédiatement la décision au niveau « observer ».

Le droit va dans le même sens pour l'IA à haut risque. L'article 14 du règlement européen sur l'IA (AI Act) exige que les personnes qui supervisent ces systèmes puissent interpréter correctement les sorties du système d'IA à haut risque, puissent les ignorer, passer outre ou les inverser, et puissent interrompre le système au moyen d'un bouton « arrêt » ou d'une procédure similaire. Savoir si un usage donné en usine est à haut risque est une question juridique, mais cette liste fait une bonne checklist pour toute règle de validation.

Le NIST AI Risk Management Framework, un guide volontaire pour mieux gérer les risques que l'IA fait peser sur les personnes et les organisations, est une référence utile quand une usine rédige sa propre politique IA.

Quand faire monter ou descendre une décision

Revoyez les niveaux chaque mois, par exemple lors de la réunion de niveau 3. Pour chaque type de décision, regardez combien de fois les recommandations sont acceptées, combien de fois elles sont modifiées et pourquoi, et combien de fois une recommandation acceptée s'est révélée fausse.

Ne faites monter une décision d'un niveau que si l'acceptation est élevée, les dérogations rares et bien expliquées, et les erreurs peu coûteuses. Faites-la redescendre immédiatement après une erreur coûteuse, un nouveau produit ou un changement dans les données. Pour des responsables clairs d'une équipe à l'autre, voir Comment garder des responsabilités claires d'une équipe à l'autre ; pour les traces derrière chaque décision, voir Comment tenir des traces de décisions d'usine prêtes pour l'audit.

Comment cela fonctionne dans DBR77 IRIS

Dans DBR77 IRIS, les recommandations de Data & AI attendent qu'une personne les applique, les approuve, les rejette ou les reporte, et chacune affiche la base de son score : la règle, la formule et les données d'entrée. Le score est une priorité de règle, pour que personne ne le prenne pour le degré de certitude d'un modèle. L'assistant IRIS ne fait que lire les données et les documents, et l'écran Compliance tient un registre des usages de l'IA et des décisions à haut risque.

Une recommandation validée devient une tâche avec un responsable, puis un ordre de travail, un changement de planning ou un ajustement de paramètre. Dans IRIS APS, les versions de plan et les circuits de validation garantissent que les bonnes personnes approuvent avant qu'un plan arrive en atelier. Le journal conserve chaque recommandation, la décision prise à son sujet et le résultat, et le résultat sert à améliorer la suggestion suivante. Ce que l'IA peut vraiment faire dans l'exploitation d'une usine aujourd'hui indique par quels usages commencer.

Questions fréquentes

L'IA peut-elle parfois agir sans validation ?

Oui, pour des actions étroites, peu coûteuses, réversibles et dans des limites écrites, comme l'ouverture d'un ordre de travail sur seuil. L'action est journalisée et une personne en est responsable.

Qui est responsable quand une recommandation validée se révèle fausse ?

Le rôle qui l'a validée, comme pour toute décision. Le journal montre ce que le valideur a vu, donc la revue peut établir si c'est la règle ou les données qu'il faut corriger.

Les validations ne vont-elles pas ralentir le travail de l'équipe ?

Pas si les règles sont courtes et fixées selon le risque. Les validations à faible risque prennent un clic. Seuls quelques types de décisions demandent un valideur de haut niveau.

Conclusion

Listez les décisions que vos planificateurs, techniciens et équipe qualité prennent chaque semaine, faites passer chacune par les cinq questions, et donnez-lui un niveau avec une règle de validation écrite, un délai, un journal et un moyen d'arrêter. Placez la plupart au niveau « conseiller » au départ et laissez la sécurité et la libération qualité aux personnes. Revoyez les niveaux chaque mois, et ne faites monter une décision que lorsque les taux d'acceptation, de dérogation et d'erreur montrent que c'est sûr.

Sources