Jak powinna wyglądać polityka zatwierdzania ludzi w fabrykach AI
3 min czytania
Polityka zatwierdzania fabrycznej sztucznej inteligencji przez człowieka powinna być celowo nudna. Nuda jest tym, co sprawia, że operacje są przewidywalne. Powinna określać, które stany przepływu pracy wymagają podpisu człowieka, jakie dowody muszą być widoczne przy podpisie, jak długo zatwierdzenia mogą czekać przed eskalacją, kto obejmuje noce i weekendy oraz w jaki sposób rejestrowane są zastąpienia. Powinien odnosić się do ryzyka i odwracalności, ale musi wylądować w konkretnych polach przepływu pracy i rolach. Jeśli mówi tylko o "sztucznej inteligencji", zawiedzie audyty i halę produkcyjną.
Zacznij od zakresu i definicji: które przepływy pracy i lokalizacje są objęte; co oznaczają obserwacja, doradztwo i działanie w języku zakładu; które systemy są systemami rejestrowania zatwierdzeń. Unikaj nazw marketingowych dostawców w podstawowym tekście. Używaj języka przepływu pracy i zasobów rozpoznawanego przez audytorów.
Zbuduj macierz zatwierdzeń według stanu przepływu pracy. Puste komórki zatwierdzające to sposób, w jaki zdarzają się incydenty. Każdy wiersz powinien odpowiadać, jaki tryb jest dozwolony, która bramka ludzka ma zastosowanie i która rola podpisuje.
Wymagaj pakietu dowodów w momencie zatwierdzania: używane pola, flagi niepewności, powiązane przypadki referencyjne w ramach kontekstu (nie autorytetu), kroki odwracalności i wycofania. Osoby zatwierdzające powinny być w stanie powiedzieć wprost: "Widziałem X, dlatego podpisałem"
Zdefiniuj eskalację opartą na czasie. Ciche limity czasu to sposób, w jaki "system zdecydował" staje się plotką. Określ maksymalny czas oczekiwania według ważności, kto eskaluje po przekroczeniu limitu czasu i co dzieje się z zachowaniem w trybie działania podczas zaległości.
Delegowanie uprawnień: nocni zastępcy, zasady dotyczące urlopów, awaryjne obniżenie rangi do doradztwa - tylko z wyraźnym upoważnieniem. Jeśli pokrycie nie jest zapisane, ludzie omijają współdzielone loginy - a identyfikowalność umiera.
Zasady zwykle zawodzą w weekendy, luki w zasięgu i zaległości - nie w warsztatach. Testem jest to, czy reguła przetrwa nieobecność na nocnej zmianie, szybkie czyszczenie kolejki po pośpiechu i kontrolę po incydencie bez sześciu konkurencyjnych historii.
Szkolenie i ponowna certyfikacja powinny być zawarte w polityce: kto musi ukończyć szkolenie przed zatwierdzeniem uprawnień, czynniki wyzwalające coroczne lub powypadkowe odświeżenie, sposób postępowania z wykonawcami. Dokumentacja szkoleniowa jest częścią kontroli, a nie dekoracji HR.
Sprawdzenie polityki operacyjnej: Czy nowy przełożony może znaleźć swoje bramki w mniej niż pięć minut? Czy dział jakości potrafi wyjaśnić zasady bez podawania nazwy dostawcy? Czy dział IT może stworzyć ścieżkę audytu zatwierdzeń dla losowego tygodnia? Trzy odpowiedzi twierdzące oznaczają, że jesteś blisko.
IRIS sprawia, że polityka zatwierdzania jest egzekwowalna, gdy dowody, liczniki czasu, podpisy i wynikające z nich zadania współdzielą jeden rekord operacyjny - przekształcając politykę w mechanizm na poziomie piętra.
Aby zapoznać się z logiką praw decyzyjnych, zobacz When AI Should Recommend and When Humans Should Decide in Operations, When AI Should Watch, Advise, or Act in the Factory oraz [How to Govern AI Decisions Across Shifts and Functions] (../37_how_to_govern_ai_decisions_across_shifts_and_functions/article_PL.md).
Należy pisać zatwierdzenia w języku przepływu pracy z nazwanymi rolami, licznikami czasu i dowodami. Jeśli nie można tego wyegzekwować na miejscu, nie jest to polityka.
Operacyjne podsumowanie
Obietnica tego artykułu - szkielet polityki, który można opublikować: zakres, progi, dowody, eskalacja, zapisy i szkolenia powiązane z przepływami pracy, a nie nazwami modeli - staje się operacyjna tylko wtedy, gdy zmienia sposób przepływu pracy: jaśniejsza własność, szybsze pierwsze przypisanie i zamknięcie, które można prześledzić bez archeologii skrzynki odbiorczej. W przypadku "Jak powinna wyglądać polityka zatwierdzania przez człowieka w fabrycznej sztucznej inteligencji" potraktuj to jako test akceptacji: następna zmiana powinna być w stanie odczytać, co się wydarzyło, co zostało zatwierdzone i co pozostaje otwarte - bez polegania na słownej rekonstrukcji.
W tym standardzie nie chodzi o doskonałość oprogramowania; chodzi o uczciwość operacyjną: mniej tajemniczych przekazań, mniej prawd uzgadnianych tylko na spotkaniach i więcej dni, w których zapis systemowy jest zgodny z tym, co powiedzieliby pracownicy, gdyby zatrzymać ich w połowie zadania.
Zespoły powinny trzymać się prostej zasady: jeśli ulepszenie nie może być wykazane w eksporcie z zapisu wykonania, nie jest to jeszcze ulepszenie operacyjne - a jedynie ulepszenie narracyjne. Ta zasada utrzymuje programy w uczciwości, gdy wersje demonstracyjne wyglądają dobrze, ale przekazanie nadal wydaje się kruche. Jeśli zapis jest cienki, napraw go, zanim rozszerzysz ambicje.
DBR77 IRIS przechowuje zatwierdzenia, dowody i zadania razem, dzięki czemu ludzkie bramki pozostają identyfikowalne na różnych zmianach i funkcjach. Rozpocznij 14-dniowy okres próbny lub Obejrzyj instrukcję.
