Zum Hauptinhalt springen
Wissensdatenbank

Wann KI empfehlen und wann Menschen entscheiden sollten

DBR77 Team7 Min. Lesezeit

Auf dieser Seite

Lassen Sie KI nur dort selbst handeln, wo eine falsche Aktion billig ist, sich schnell rückgängig machen lässt und innerhalb schriftlich festgelegter Grenzen bleibt. Lassen Sie sie empfehlen, mit einer benannten Rolle, die freigibt, wo eine Entscheidung den Plan, das Produkt, die Kosten oder die Sicherheit verändert. Alles andere beginnt bei „beobachten“: Die KI beobachtet und meldet, Menschen handeln. Legen Sie die Stufe pro Entscheidungsart fest, nicht pro KI-System, und heben Sie eine Entscheidung nur mit Belegen eine Stufe höher.

Ein Werk muss klären, bei welchen Entscheidungen es der KI vertraut, nach welchen Regeln und wer für das Ergebnis einsteht.

Warum „KI oder Mensch“ die falsche Frage ist

Ein Werk trifft Hunderte Entscheidungen am Tag. Die meisten sind klein: welche Aufgabe zuerst, welcher Auftrag als Nächstes. Einige sind groß: eine Charge freigeben, ein Rezept ändern, eine Linie anhalten. Alle unter eine Regel zu stellen ergibt keinen Sinn. Braucht jeder KI-Vorschlag die Unterschrift einer Führungskraft, bewegt sich nichts. Braucht ihn keiner, verliert das Werk die Kontrolle über die Entscheidungen, die zählen.

Toyota hat eine Version dieses Problems lange vor der KI gelöst. Das Prinzip Jidoka, „Automatisierung mit menschlichem Gespür“, lässt eine Maschine die Abweichung erkennen und automatisch anhalten. Die Maschine übernimmt die Routine und den Halt. Menschen reagieren auf die Abweichung, und, wie Toyota es formuliert, nur Menschen können Kaizen umsetzen. Toyota hat diese Arbeitsteilung zwischen Maschine und Mensch bewusst gestaltet, und KI im Betrieb braucht dieselbe bewusste Gestaltung.

KI kann beobachten, beraten oder handeln, und „beobachten“ ist der Standard für alles Neue.

Matrix mit drei Beispielentscheidungen in einem Spritzgießwerk: Kosten einer falschen Aktion, KI-Stufe und wer entscheidet

Drei Stufen: beobachten, beraten, handeln

StufeWas die KI tutWas der Mensch tutTypische EntscheidungenFreigaberegel
BeobachtenBeobachtet Daten, meldet Abweichungen, fasst zusammenEntscheidet, ob und wie gehandelt wirdSicherheitsbeobachtungen, neue Linien, neue KI-AnwendungenKein Freigabeschritt; der Mensch ist für die Aktion verantwortlich
BeratenEmpfiehlt eine Aktion mit Begründung und KonfidenzwertGibt sie frei, ändert oder verwirft siePlanänderungen, Priorität von Arbeitsaufträgen, wahrscheinliche Grundursache, Verwendungsentscheid für eine ChargeBenannte Rolle gibt innerhalb einer Frist frei, sonst Eskalation
HandelnFührt die Aktion innerhalb schriftlicher Grenzen aus und protokolliert siePrüft danach und kann sie rückgängig machenEntwürfe von Aufgaben, Arbeitsaufträge ab einer Schwelle, Routine-Nachbestellungen unter einem festgelegten WertNur für billige, umkehrbare, begrenzte Aktionen erlaubt

Die meisten Werke stellen anfangs fast alles auf „beraten“, und das ist ein solider Start. „Handeln“ sollte selten und eng begrenzt sein. „Beobachten“ ist der Standard für alles Neue.

Fünf Fragen, die die Stufe festlegen

Beantworten Sie für jede Entscheidungsart die folgenden Fragen:

  1. Was kostet eine falsche Aktion? Ausschuss, eine verpasste Lieferung, ein Sicherheitsrisiko oder zehn Minuten Nacharbeit?
  2. Lässt sie sich rückgängig machen? Eine Aufgabe lässt sich neu zuweisen. Eine ausgelieferte Charge lässt sich nicht billig zurückholen.
  3. Wie schnell muss sie passieren? Liegt der Wert in Sekunden, ist ein Mensch im Ablauf vielleicht zu langsam; setzen Sie dann stattdessen enge Grenzen.
  4. Wie gut sind die Belege? Sind die Daten sauber, und lag die KI bei dieser Entscheidung schon richtig?
  5. Ist sie reguliert oder sicherheitsrelevant? Wenn ja, entscheidet ein Mensch, unabhängig von den anderen Antworten.

Illustratives Beispiel: Ein Kunststoff-Spritzgießwerk prüft drei Entscheidungen. Zwei Aufträge auf derselben Presse innerhalb einer Schicht zu tauschen ist billig und umkehrbar, also liegt es bei „beraten“, und der Planer gibt mit einem Klick frei. Eine Charge nach einer nicht bestandenen Prüfung aus der Qualitätssperre freizugeben ist teuer und schwer umkehrbar, also bleibt es bei „beraten“ mit dem Qualitätsleiter als einzigem Freigebenden und rückt nie zu „handeln“ auf. Einen Arbeitsauftrag anzulegen, wenn die Kühlwassertemperatur 10 Minuten lang über einem festgelegten Grenzwert liegt, ist billig und begrenzt, also liegt es bei „handeln“: Der Arbeitsauftrag wird angelegt, ein Techniker ist verantwortlich, und der Schichtleiter sieht ihn bei der Schichtübergabe.

Wie Sie Freigaberegeln schreiben

Eine Freigaberegel ist kurz und beantwortet sechs Punkte:

  • Wer freigibt: eine Rolle, keine Person, damit die Regel in jeder Schicht funktioniert.
  • Die Frist: wie lange die Empfehlung warten darf.
  • Was ohne Antwort passiert: Eskalation an die nächste Rolle. Standardmäßig ändert sich an der Linie nichts.
  • Was der Freigebende sieht: die genutzten Daten, die Begründung und den Konfidenzwert.
  • Was protokolliert wird: die Empfehlung, die Entscheidung, wer sie getroffen hat und bei einer Übersteuerung den Grund.
  • Wie gestoppt wird: wer die Entscheidung sofort auf „beobachten“ zurückstellen kann.

Das Recht weist für Hochrisiko-KI in dieselbe Richtung. Artikel 14 der EU-KI-Verordnung verlangt, dass die Personen, die solche Systeme beaufsichtigen, die Ausgabe des Hochrisiko-KI-Systems richtig interpretieren können, sie außer Acht lassen, übersteuern oder rückgängig machen können und das System über eine „Stopp“-Taste oder ein ähnliches Verfahren unterbrechen können. Ob eine bestimmte Anwendung im Werk als Hochrisiko gilt, ist eine rechtliche Frage, aber die Liste ist eine gute Checkliste für jede Freigaberegel.

Das NIST AI Risk Management Framework, ein freiwilliger Leitfaden, um Risiken besser zu steuern, die von KI für Menschen und Organisationen ausgehen, ist eine nützliche Referenz, wenn ein Werk seine eigene KI-Richtlinie schreibt.

Wann Sie eine Entscheidung höher oder tiefer stufen

Prüfen Sie die Stufen monatlich, zum Beispiel in der Tier-3-Besprechung. Schauen Sie pro Entscheidungsart, wie oft Empfehlungen angenommen werden, wie oft sie geändert werden und warum, und wie oft sich eine angenommene Empfehlung als falsch erwiesen hat.

Stufen Sie eine Entscheidung nur dann eine Stufe höher, wenn die Annahmequote hoch ist, Übersteuerungen selten und gut begründet sind und Fehler billig sind. Stufen Sie sie sofort tiefer nach einem teuren Fehler, einem neuen Produkt oder einer Änderung in den Daten. Zu klaren Verantwortlichen über Schichten hinweg siehe Wie Verantwortung über Schichten hinweg klar bleibt; zu den Datensätzen hinter jeder Entscheidung siehe Wie Sie prüfungsfeste Datensätze zu Entscheidungen im Werk führen.

Wie das in DBR77 IRIS funktioniert

In DBR77 IRIS warten Empfehlungen aus Daten & KI darauf, dass eine Person sie umsetzt, freigibt, ablehnt oder zurückstellt, und jede zeigt, worauf ihre Bewertung beruht: die Regel, die Formel und die Eingangswerte. Die Bewertung ist die Priorität der Regel und lässt sich daher nicht mit der Konfidenz eines Modells verwechseln. Der IRIS-Assistent liest nur Daten und Dokumente, und die Ansicht Compliance führt ein Register der KI-Anwendungen und der Hochrisiko-Entscheidungen.

Eine freigegebene Empfehlung wird zu einer Aufgabe mit einem Verantwortlichen und dann zu einem Arbeitsauftrag, einer Planänderung oder einer Parameteranpassung. In IRIS APS sorgen Planversionen und Freigabe-Workflows dafür, dass die richtigen Personen zustimmen, bevor ein Plan die Fertigung erreicht. Das Protokoll enthält jede Empfehlung, die Entscheidung darüber und das Ergebnis, und das Ergebnis fließt zurück, um den nächsten Vorschlag zu verbessern. Was KI in der Fertigung heute wirklich leisten kann zeigt, mit welchen Anwendungen sich der Start lohnt.

Häufige Fragen

Kann KI jemals ohne Freigabe handeln?

Ja, bei eng begrenzten Aktionen, die billig, umkehrbar und innerhalb schriftlicher Grenzen sind, etwa einen Arbeitsauftrag ab einer Schwelle anzulegen. Die Aktion wird protokolliert, und ein Mensch ist dafür verantwortlich.

Wer ist verantwortlich, wenn eine freigegebene Empfehlung falsch ist?

Die Rolle, die sie freigegeben hat, wie bei jeder Entscheidung. Das Protokoll zeigt, was der Freigebende gesehen hat, sodass die Prüfung feststellen kann, ob die Regel oder die Daten korrigiert werden müssen.

Bremsen Freigaben die Schicht nicht aus?

Nicht, wenn die Regeln kurz und nach Risiko festgelegt sind. Freigaben mit geringem Risiko brauchen einen Klick. Nur wenige Entscheidungsarten brauchen eine Freigabe durch eine höhere Führungsebene.

Fazit

Listen Sie die Entscheidungen auf, die Ihre Planer, Techniker und Ihr Qualitätsteam jede Woche treffen, prüfen Sie jede mit den fünf Fragen und geben Sie ihr eine Stufe mit einer schriftlichen Freigaberegel, einer Frist, einem Protokoll und einer Möglichkeit zu stoppen. Beginnen Sie die meisten bei „beraten“ und lassen Sie Sicherheit und Qualitätsfreigabe bei Menschen. Prüfen Sie die Stufen monatlich und stufen Sie eine Entscheidung nur höher, wenn Annahme-, Übersteuerungs- und Fehlerquoten sagen, dass es sicher ist.

Quellen