Kiedy AI powinna rekomendować, a kiedy decydować powinni ludzie
DBR77 Team7 min czytania
Na tej stronie
Pozwól AI działać samodzielnie tylko tam, gdzie błędne działanie kosztuje niewiele, da się je szybko odwrócić i mieści się w spisanych limitach. Pozwól jej rekomendować, z zatwierdzeniem przez wskazaną rolę, tam, gdzie decyzja zmienia plan, produkt, koszt lub bezpieczeństwo. Cała reszta zaczyna od „obserwacji”: AI obserwuje i sygnalizuje, ludzie działają. Ustal poziom dla każdego typu decyzji, a nie dla systemu AI, i przesuwaj decyzję poziom wyżej tylko na podstawie dowodów.
Zakład musi ustalić, w jakich decyzjach zaufać AI, na jakich zasadach i kto odpowiada za wynik.
Dlaczego „AI albo człowiek” to złe pytanie
Zakład podejmuje setki decyzji dziennie. Większość jest drobna: które zadanie najpierw, które zlecenie następne. Kilka jest dużych: zwolnienie partii, zmiana receptury, zatrzymanie linii. Objęcie ich wszystkich jedną zasadą nie ma sensu. Jeśli każda podpowiedź AI wymaga podpisu kierownika, nic się nie rusza. Jeśli żadna nie wymaga, zakład traci kontrolę nad decyzjami, które mają znaczenie.
Toyota rozwiązała odmianę tego problemu długo przed AI. Jej idea jidoka, „automatyzacji z ludzkim dotykiem”, pozwala maszynie wykryć nieprawidłowość i automatycznie się zatrzymać. Maszyna zajmuje się rutyną i zatrzymaniem. Ludzie reagują na nieprawidłowość, a jak ujmuje to Toyota, tylko ludzie mogą wdrażać kaizen. Toyota zaprojektowała ten podział pracy między maszynę a człowieka, a AI w operacjach potrzebuje takiego samego przemyślanego projektu.
AI może obserwować, doradzać lub działać, a obserwacja jest ustawieniem domyślnym dla wszystkiego, co nowe.
Trzy poziomy: obserwacja, doradzanie, działanie
| Poziom | Co robi AI | Co robi człowiek | Typowe decyzje | Zasada zatwierdzania |
|---|---|---|---|---|
| Obserwacja | Obserwuje dane, sygnalizuje odchylenia, streszcza | Decyduje, czy i jak działać | Obserwacje BHP, nowe linie, nowe zastosowania AI | Brak kroku zatwierdzania; za działanie odpowiada człowiek |
| Doradzanie | Rekomenduje działanie z uzasadnieniem i poziomem pewności | Zatwierdza, zmienia lub odrzuca | Zmiany w harmonogramie, priorytet zlecenia pracy, prawdopodobna przyczyna źródłowa, decyzja o partii | Wskazana rola zatwierdza w limicie czasu, w przeciwnym razie eskalacja |
| Działanie | Wykonuje działanie w spisanych limitach i je rejestruje | Przegląda po fakcie i może je odwrócić | Szkice zadań, zlecenia pracy po przekroczeniu progu, rutynowe zamówienia uzupełniające poniżej ustalonej wartości | Dozwolone tylko dla tanich, odwracalnych i ograniczonych działań |
Większość zakładów na początku stawia prawie wszystko na poziomie „doradzanie” i to rozsądny start. „Działanie” powinno być rzadkie i wąskie. „Obserwacja” to poziom domyślny dla wszystkiego, co nowe.
Pięć pytań, które ustalają poziom
Dla każdego typu decyzji odpowiedz na poniższe pytania:
- Ile kosztuje błędne działanie? Braki, niezrealizowana wysyłka, ryzyko dla bezpieczeństwa czy dziesięć minut poprawek?
- Czy da się je odwrócić? Zadanie można przydzielić komuś innemu. Wysłanej partii nie da się tanio wycofać.
- Jak szybko musi nastąpić? Jeśli wartość liczy się w sekundach, człowiek w pętli może być zbyt wolny, więc zamiast tego ustaw ścisłe limity.
- Jak dobre są dowody? Czy dane są czyste i czy AI miała już rację przy tej decyzji?
- Czy decyzja podlega regulacjom lub dotyczy bezpieczeństwa? Jeśli tak, decyduje człowiek, niezależnie od pozostałych odpowiedzi.
Przykład ilustracyjny: zakład wtrysku tworzyw sztucznych przegląda trzy decyzje. Zamiana kolejności dwóch zleceń na tej samej wtryskarce w ramach zmiany jest tania i odwracalna, więc jest na poziomie „doradzanie”, a planista zatwierdza ją jednym kliknięciem. Zwolnienie partii zablokowanej po negatywnej kontroli jest kosztowne i trudne do odwrócenia, więc zostaje na poziomie „doradzanie” z liderem jakości jako jedynym zatwierdzającym i nigdy nie przechodzi na „działanie”. Otwarcie zlecenia pracy, gdy temperatura wody chłodzącej przekracza ustalony limit przez 10 minut, jest tanie i ograniczone, więc jest na poziomie „działanie”: zlecenie pracy zostaje utworzone, odpowiada za nie technik, a kierownik zmiany widzi je przy przekazaniu zmiany.
Jak spisać zasady zatwierdzania
Zasada zatwierdzania jest krótka i odpowiada na sześć pytań:
- Kto zatwierdza: rola, a nie osoba, aby zasada działała na każdej zmianie.
- Limit czasu: jak długo rekomendacja może czekać.
- Co się dzieje bez odpowiedzi: eskalacja do następnej roli. Domyślnie na linii nic się nie zmienia.
- Co widzi zatwierdzający: użyte dane, uzasadnienie i poziom pewności.
- Co jest rejestrowane: rekomendacja, decyzja, kto ją podjął, a przy odrzuceniu lub zmianie: dlaczego.
- Jak zatrzymać: kto może natychmiast przesunąć decyzję z powrotem na poziom „obserwacja”.
Prawo idzie w tym samym kierunku w przypadku AI wysokiego ryzyka. Artykuł 14 unijnego aktu w sprawie sztucznej inteligencji (AI Act) wymaga, by osoby nadzorujące takie systemy mogły prawidłowo interpretować wyniki systemu AI wysokiego ryzyka, mogły je zignorować, unieważnić lub odwrócić oraz mogły przerwać działanie systemu przyciskiem „stop” lub podobną procedurą. To, czy dane zastosowanie w zakładzie jest uznawane za wysokiego ryzyka, jest kwestią prawną, ale ta lista to dobra lista kontrolna dla każdej zasady zatwierdzania.
Ramy NIST AI Risk Management Framework, dobrowolny przewodnik, który pomaga lepiej zarządzać ryzykiem, jakie AI stwarza dla ludzi i organizacji, to przydatny punkt odniesienia, gdy zakład spisuje własną politykę AI.
Kiedy przesunąć decyzję w górę lub w dół
Przeglądaj poziomy co miesiąc, na przykład na spotkaniu poziomu 3 (tier 3). Dla każdego typu decyzji sprawdzaj, jak często rekomendacje są przyjmowane, jak często są zmieniane i dlaczego oraz jak często przyjęta rekomendacja okazała się błędna.
Przesuń decyzję o jeden poziom w górę tylko wtedy, gdy odsetek przyjęć jest wysoki, odrzucenia są rzadkie i dobrze uzasadnione, a błędy tanie. Przesuń ją w dół natychmiast po kosztownym błędzie, nowym produkcie lub zmianie w danych. O jasnych właścicielach na wszystkich zmianach przeczytasz w artykule Jak utrzymać jasną odpowiedzialność na wszystkich zmianach; o zapisach stojących za każdą decyzją w artykule Jak prowadzić gotowe do audytu zapisy decyzji w fabryce.
Jak to działa w DBR77 IRIS
W DBR77 IRIS rekomendacje Data & AI czekają, aż człowiek je zastosuje, zatwierdzi, odrzuci lub odłoży, a każda z nich pokazuje podstawę swojej oceny: regułę, wzór i dane wejściowe. Ocena to priorytet reguły, więc nikt nie pomyli jej z pewnością modelu. Asystent IRIS tylko odczytuje dane i dokumenty, a ekran Compliance prowadzi rejestr zastosowań AI i decyzji wysokiego ryzyka.
Zatwierdzona rekomendacja staje się zadaniem z właścicielem, a potem zleceniem pracy, zmianą w harmonogramie albo korektą parametru. W IRIS APS wersje planu i ścieżki zatwierdzania zapewniają, że właściwe osoby zatwierdzą plan, zanim trafi na halę. Rejestr zawiera każdą rekomendację, decyzję w jej sprawie i wynik, a wynik wraca do systemu, by poprawić następną podpowiedź. Artykuł Co AI naprawdę potrafi dziś w operacjach fabryki podpowiada, od których zastosowań zacząć.
Najczęstsze pytania
Czy AI może kiedykolwiek działać bez zatwierdzenia?
Tak, przy wąskich działaniach, które są tanie, odwracalne i mieszczą się w spisanych limitach, takich jak otwarcie zlecenia pracy po przekroczeniu progu. Działanie jest rejestrowane, a odpowiada za nie człowiek.
Kto odpowiada, gdy zatwierdzona rekomendacja okaże się błędna?
Rola, która ją zatwierdziła, jak przy każdej decyzji. Rejestr pokazuje, co widział zatwierdzający, więc przegląd może ustalić, czy poprawki wymaga zasada, czy dane.
Czy zatwierdzenia nie spowolnią zmiany?
Nie, jeśli zasady są krótkie i ustawione według ryzyka. Zatwierdzenia o niskim ryzyku to jedno kliknięcie. Tylko kilka typów decyzji wymaga zatwierdzenia przez osobę wyższego szczebla.
Podsumowanie
Spisz decyzje, które Twoi planiści, technicy i zespół jakości podejmują co tydzień, przepuść każdą przez pięć pytań i nadaj jej poziom ze spisaną zasadą zatwierdzania, limitem czasu, rejestrem i sposobem zatrzymania. Większość zacznij od poziomu „doradzanie”, a bezpieczeństwo i zwolnienia jakościowe zostaw ludziom. Przeglądaj poziomy co miesiąc i przesuwaj decyzję w górę tylko wtedy, gdy odsetek przyjęć, zmian i błędów pokazuje, że to bezpieczne.
Źródła
- Toyota Motor Corporation, Toyota Production System
- European Union, Regulation (EU) 2024/1689 (Artificial Intelligence Act), Article 14: Human oversight, 2024
- NIST, AI Risk Management Framework, 2023