Przejdź do treści
Baza wiedzy

Kiedy AI powinna rekomendować, a kiedy decydować powinni ludzie

DBR77 Team7 min czytania

Na tej stronie

Pozwól AI działać samodzielnie tylko tam, gdzie błędne działanie kosztuje niewiele, da się je szybko odwrócić i mieści się w spisanych limitach. Pozwól jej rekomendować, z zatwierdzeniem przez wskazaną rolę, tam, gdzie decyzja zmienia plan, produkt, koszt lub bezpieczeństwo. Cała reszta zaczyna od „obserwacji”: AI obserwuje i sygnalizuje, ludzie działają. Ustal poziom dla każdego typu decyzji, a nie dla systemu AI, i przesuwaj decyzję poziom wyżej tylko na podstawie dowodów.

Zakład musi ustalić, w jakich decyzjach zaufać AI, na jakich zasadach i kto odpowiada za wynik.

Dlaczego „AI albo człowiek” to złe pytanie

Zakład podejmuje setki decyzji dziennie. Większość jest drobna: które zadanie najpierw, które zlecenie następne. Kilka jest dużych: zwolnienie partii, zmiana receptury, zatrzymanie linii. Objęcie ich wszystkich jedną zasadą nie ma sensu. Jeśli każda podpowiedź AI wymaga podpisu kierownika, nic się nie rusza. Jeśli żadna nie wymaga, zakład traci kontrolę nad decyzjami, które mają znaczenie.

Toyota rozwiązała odmianę tego problemu długo przed AI. Jej idea jidoka, „automatyzacji z ludzkim dotykiem”, pozwala maszynie wykryć nieprawidłowość i automatycznie się zatrzymać. Maszyna zajmuje się rutyną i zatrzymaniem. Ludzie reagują na nieprawidłowość, a jak ujmuje to Toyota, tylko ludzie mogą wdrażać kaizen. Toyota zaprojektowała ten podział pracy między maszynę a człowieka, a AI w operacjach potrzebuje takiego samego przemyślanego projektu.

AI może obserwować, doradzać lub działać, a obserwacja jest ustawieniem domyślnym dla wszystkiego, co nowe.

Macierz trzech przykładowych decyzji w zakładzie wtrysku tworzyw: koszt błędnego działania, poziom AI i kto decyduje

Trzy poziomy: obserwacja, doradzanie, działanie

PoziomCo robi AICo robi człowiekTypowe decyzjeZasada zatwierdzania
ObserwacjaObserwuje dane, sygnalizuje odchylenia, streszczaDecyduje, czy i jak działaćObserwacje BHP, nowe linie, nowe zastosowania AIBrak kroku zatwierdzania; za działanie odpowiada człowiek
DoradzanieRekomenduje działanie z uzasadnieniem i poziomem pewnościZatwierdza, zmienia lub odrzucaZmiany w harmonogramie, priorytet zlecenia pracy, prawdopodobna przyczyna źródłowa, decyzja o partiiWskazana rola zatwierdza w limicie czasu, w przeciwnym razie eskalacja
DziałanieWykonuje działanie w spisanych limitach i je rejestrujePrzegląda po fakcie i może je odwrócićSzkice zadań, zlecenia pracy po przekroczeniu progu, rutynowe zamówienia uzupełniające poniżej ustalonej wartościDozwolone tylko dla tanich, odwracalnych i ograniczonych działań

Większość zakładów na początku stawia prawie wszystko na poziomie „doradzanie” i to rozsądny start. „Działanie” powinno być rzadkie i wąskie. „Obserwacja” to poziom domyślny dla wszystkiego, co nowe.

Pięć pytań, które ustalają poziom

Dla każdego typu decyzji odpowiedz na poniższe pytania:

  1. Ile kosztuje błędne działanie? Braki, niezrealizowana wysyłka, ryzyko dla bezpieczeństwa czy dziesięć minut poprawek?
  2. Czy da się je odwrócić? Zadanie można przydzielić komuś innemu. Wysłanej partii nie da się tanio wycofać.
  3. Jak szybko musi nastąpić? Jeśli wartość liczy się w sekundach, człowiek w pętli może być zbyt wolny, więc zamiast tego ustaw ścisłe limity.
  4. Jak dobre są dowody? Czy dane są czyste i czy AI miała już rację przy tej decyzji?
  5. Czy decyzja podlega regulacjom lub dotyczy bezpieczeństwa? Jeśli tak, decyduje człowiek, niezależnie od pozostałych odpowiedzi.

Przykład ilustracyjny: zakład wtrysku tworzyw sztucznych przegląda trzy decyzje. Zamiana kolejności dwóch zleceń na tej samej wtryskarce w ramach zmiany jest tania i odwracalna, więc jest na poziomie „doradzanie”, a planista zatwierdza ją jednym kliknięciem. Zwolnienie partii zablokowanej po negatywnej kontroli jest kosztowne i trudne do odwrócenia, więc zostaje na poziomie „doradzanie” z liderem jakości jako jedynym zatwierdzającym i nigdy nie przechodzi na „działanie”. Otwarcie zlecenia pracy, gdy temperatura wody chłodzącej przekracza ustalony limit przez 10 minut, jest tanie i ograniczone, więc jest na poziomie „działanie”: zlecenie pracy zostaje utworzone, odpowiada za nie technik, a kierownik zmiany widzi je przy przekazaniu zmiany.

Jak spisać zasady zatwierdzania

Zasada zatwierdzania jest krótka i odpowiada na sześć pytań:

  • Kto zatwierdza: rola, a nie osoba, aby zasada działała na każdej zmianie.
  • Limit czasu: jak długo rekomendacja może czekać.
  • Co się dzieje bez odpowiedzi: eskalacja do następnej roli. Domyślnie na linii nic się nie zmienia.
  • Co widzi zatwierdzający: użyte dane, uzasadnienie i poziom pewności.
  • Co jest rejestrowane: rekomendacja, decyzja, kto ją podjął, a przy odrzuceniu lub zmianie: dlaczego.
  • Jak zatrzymać: kto może natychmiast przesunąć decyzję z powrotem na poziom „obserwacja”.

Prawo idzie w tym samym kierunku w przypadku AI wysokiego ryzyka. Artykuł 14 unijnego aktu w sprawie sztucznej inteligencji (AI Act) wymaga, by osoby nadzorujące takie systemy mogły prawidłowo interpretować wyniki systemu AI wysokiego ryzyka, mogły je zignorować, unieważnić lub odwrócić oraz mogły przerwać działanie systemu przyciskiem „stop” lub podobną procedurą. To, czy dane zastosowanie w zakładzie jest uznawane za wysokiego ryzyka, jest kwestią prawną, ale ta lista to dobra lista kontrolna dla każdej zasady zatwierdzania.

Ramy NIST AI Risk Management Framework, dobrowolny przewodnik, który pomaga lepiej zarządzać ryzykiem, jakie AI stwarza dla ludzi i organizacji, to przydatny punkt odniesienia, gdy zakład spisuje własną politykę AI.

Kiedy przesunąć decyzję w górę lub w dół

Przeglądaj poziomy co miesiąc, na przykład na spotkaniu poziomu 3 (tier 3). Dla każdego typu decyzji sprawdzaj, jak często rekomendacje są przyjmowane, jak często są zmieniane i dlaczego oraz jak często przyjęta rekomendacja okazała się błędna.

Przesuń decyzję o jeden poziom w górę tylko wtedy, gdy odsetek przyjęć jest wysoki, odrzucenia są rzadkie i dobrze uzasadnione, a błędy tanie. Przesuń ją w dół natychmiast po kosztownym błędzie, nowym produkcie lub zmianie w danych. O jasnych właścicielach na wszystkich zmianach przeczytasz w artykule Jak utrzymać jasną odpowiedzialność na wszystkich zmianach; o zapisach stojących za każdą decyzją w artykule Jak prowadzić gotowe do audytu zapisy decyzji w fabryce.

Jak to działa w DBR77 IRIS

W DBR77 IRIS rekomendacje Data & AI czekają, aż człowiek je zastosuje, zatwierdzi, odrzuci lub odłoży, a każda z nich pokazuje podstawę swojej oceny: regułę, wzór i dane wejściowe. Ocena to priorytet reguły, więc nikt nie pomyli jej z pewnością modelu. Asystent IRIS tylko odczytuje dane i dokumenty, a ekran Compliance prowadzi rejestr zastosowań AI i decyzji wysokiego ryzyka.

Zatwierdzona rekomendacja staje się zadaniem z właścicielem, a potem zleceniem pracy, zmianą w harmonogramie albo korektą parametru. W IRIS APS wersje planu i ścieżki zatwierdzania zapewniają, że właściwe osoby zatwierdzą plan, zanim trafi na halę. Rejestr zawiera każdą rekomendację, decyzję w jej sprawie i wynik, a wynik wraca do systemu, by poprawić następną podpowiedź. Artykuł Co AI naprawdę potrafi dziś w operacjach fabryki podpowiada, od których zastosowań zacząć.

Najczęstsze pytania

Czy AI może kiedykolwiek działać bez zatwierdzenia?

Tak, przy wąskich działaniach, które są tanie, odwracalne i mieszczą się w spisanych limitach, takich jak otwarcie zlecenia pracy po przekroczeniu progu. Działanie jest rejestrowane, a odpowiada za nie człowiek.

Kto odpowiada, gdy zatwierdzona rekomendacja okaże się błędna?

Rola, która ją zatwierdziła, jak przy każdej decyzji. Rejestr pokazuje, co widział zatwierdzający, więc przegląd może ustalić, czy poprawki wymaga zasada, czy dane.

Czy zatwierdzenia nie spowolnią zmiany?

Nie, jeśli zasady są krótkie i ustawione według ryzyka. Zatwierdzenia o niskim ryzyku to jedno kliknięcie. Tylko kilka typów decyzji wymaga zatwierdzenia przez osobę wyższego szczebla.

Podsumowanie

Spisz decyzje, które Twoi planiści, technicy i zespół jakości podejmują co tydzień, przepuść każdą przez pięć pytań i nadaj jej poziom ze spisaną zasadą zatwierdzania, limitem czasu, rejestrem i sposobem zatrzymania. Większość zacznij od poziomu „doradzanie”, a bezpieczeństwo i zwolnienia jakościowe zostaw ludziom. Przeglądaj poziomy co miesiąc i przesuwaj decyzję w górę tylko wtedy, gdy odsetek przyjęć, zmian i błędów pokazuje, że to bezpieczne.

Źródła