Automatyzacja decyzji nie musi oznaczać, że AI decyduje samodzielnie o wszystkim. Bezpieczniejszy model działa inaczej — AI działa automatycznie tam, gdzie jest pewne, a resztę kieruje do człowieka, z jasnym śladem, dlaczego.

Dwa tryby automatyzacji

W praktyce spotykamy dwa podejścia do automatyzacji decyzji, i różnica między nimi jest większa, niż się wydaje na pierwszy rzut oka.

Pełna automatyzacja ma sens tam, gdzie decyzje są powtarzalne, dobrze zdefiniowane i niskiego ryzyka — system działa bez udziału człowieka, bo koszt pomyłki jest mały, a wzorzec jest jasny.

Automatyzacja z eskalacją to model dla wszystkiego pozostałego — czyli w praktyce dla większości decyzji, które mają realne znaczenie biznesowe. AI klasyfikuje, proponuje albo ocenia sytuację, ale ostateczna decyzja w przypadkach niepewnych, nietypowych albo o wysokiej stawce trafia do człowieka. To nie jest kompromis czy „automatyzacja połowiczna” — to świadomy wybór, który pozwala korzystać z szybkości AI bez oddawania mu odpowiedzialności za skutki, których nie da się cofnąć.

Ten drugi model jest bezpieczniejszym domyślnym wyborem dla większości firm, bo nie wymaga, żeby AI było idealne — wymaga tylko, żeby wiedziało, kiedy nie jest pewne.

Różnica widoczna jest najlepiej na konkretnym kontraście. Klasyfikacja przychodzącej wiadomości do odpowiedniej kolejki obsługi to dobry kandydat na pełną automatyzację — pomyłka oznacza najwyżej dodatkowe przekierowanie. Decyzja o tym, czy zgłoszenie kwalifikuje się do zwrotu pieniędzy albo czy dokument spełnia wymogi zgodności, to już zupełnie inna kategoria — tu pomyłka ma realny koszt finansowy albo prawny, więc nawet jeśli AI potrafi ją poprawnie ocenić w większości przypadków, rozsądniej jest zostawić furtkę do weryfikacji tam, gdzie system nie jest pewny.

Progi pewności

Sercem automatyzacji z eskalacją jest to, że system nie tylko podaje odpowiedź, ale też ocenia, jak bardzo jest jej pewny.

Powyżej ustalonego progu pewności decyzja zapada automatycznie — proces idzie dalej bez opóźnienia. Poniżej progu sprawa trafia do człowieka, razem z kontekstem: co system zaproponował i dlaczego akurat to.

Kluczowe jest to, że próg pewności nie jest jeden dla całej firmy. Ustala się go osobno dla każdego typu decyzji, w zależności od tego, jak kosztowna byłaby pomyłka. Klasyfikacja rutynowego dokumentu może mieć niski próg — nawet drobna pomyłka jest łatwa do naprawienia. Decyzja wpływająca na kwotę do zapłaty albo na zgodność z przepisami wymaga znacznie wyższego progu pewności, zanim w ogóle pozwoli się systemowi działać bez nadzoru.

Kolejka wyjątków

Przypadki poniżej progu pewności nie znikają i nie czekają w nieskończoność — trafiają do kolejki wyjątków, uporządkowanej i widocznej dla osoby, która ją obsługuje.

To, co odróżnia dobrze zaprojektowaną kolejkę wyjątków od zwykłej listy „do zrobienia”, to kontekst, jaki dostaje człowiek. Zamiast zaczynać każdą sprawę od zera, dostaje gotową propozycję AI razem z uzasadnieniem, dlaczego system nie był wystarczająco pewny, żeby zdecydować samodzielnie. To skraca czas podjęcia decyzji — człowiek ocenia i potwierdza albo koryguje, zamiast analizować sprawę od podstaw.

Kolejka wyjątków jest też miejscem, gdzie widać, czy progi pewności są ustawione dobrze. Jeśli trafia tam zbyt wiele spraw, które w praktyce okazują się oczywiste, to sygnał, że próg można bezpiecznie obniżyć. Jeśli trafiają tam sprawy, które później okazują się błędne mimo automatycznej decyzji — sygnał odwrotny.

To sprzężenie zwrotne jest jednym z powodów, dla których automatyzacja z eskalacją poprawia się z czasem, zamiast zamrażać się na poziomie pierwszego wdrożenia. Każda decyzja podjęta przez człowieka w kolejce wyjątków to dodatkowa informacja o tym, gdzie faktycznie leży granica między „oczywistym” a „wymagającym uwagi” — a to pozwala z czasem precyzyjniej kalibrować progi, zamiast ustawiać je raz i zostawiać bez zmian.

Audytowalność

Automatyzacja decyzji, która nie zostawia śladu, jest ryzykiem — szczególnie tam, gdzie decyzje dotyczą pieniędzy albo podlegają nadzorowi regulacyjnemu, jak w finansach czy bankowości.

Zasada, którą stosujemy konsekwentnie, jest opisana na stronie oferty wdrożeń AI: AI czyta, klasyfikuje i proponuje, a decyzje dotyczące pieniędzy i sytuacji krytycznych podejmuje deterministyczny kod albo człowiek — nigdy sam model językowy w oderwaniu od kontroli. Dzięki temu każda decyzja ma pełny ślad: co zaproponowało AI, jaki był poziom pewności, kto — system czy człowiek — podjął finalną decyzję i kiedy.

Taki ślad nie jest formalnością na wypadek kontroli. To też najszybszy sposób na znalezienie źródła błędu, jeśli coś pójdzie nie tak — bez konieczności zgadywania, na którym etapie proces zawiódł.

Gdzie to widzimy w naszych produktach

Ten model rozdzielenia propozycji od decyzji nie jest dla nas teorią — stosujemy go we własnych produktach, na produkcji.

W Qkwicie AI czyta dokumenty księgowe — faktury, potwierdzenia, wyciągi — ale podatki i składki ZUS liczy osobny, deterministyczny silnik. AI nigdy nie „decyduje”, ile firma ma zapłacić — jego rola kończy się na czytaniu i klasyfikowaniu, dokładnie tak, jak opisaliśmy przy okazji AI w księgowości JDG. To ten sam mechanizm, o którym mowa wyżej: propozycja od AI, decyzja od kodu, który liczy w sposób powtarzalny i sprawdzalny.

Podobne rozdzielenie ról widać w Brokiku, gdzie AI pomaga dostosowywać dokumenty i wyceny do lokalnego rynku, ale nie zastępuje ustalonych zasad, na których opiera się każda transakcja. Ten sam wzorzec — AI proponuje, system decyduje — sprawdza się także w automatyzacji obiegu dokumentów, gdzie klasyfikacja i ekstrakcja danych to praca AI, a zatwierdzenie pozostaje po stronie człowieka albo reguł, które da się prześledzić.

We wszystkich trzech przypadkach powtarza się ten sam wzorzec projektowy: AI odpowiada za szybkość i wstępną ocenę, a odpowiedzialność za skutek zostaje tam, gdzie da się ją rozliczyć — w kodzie, który liczy w sposób powtarzalny, albo w decyzji człowieka, którą można prześledzić. Naszym zdaniem to jedyny model, który skaluje się bezpiecznie wraz z rosnącym wolumenem decyzji, bo nie wymaga za każdym razem zwiększania zaufania do samego modelu językowego — wymaga tylko utrzymania dobrze skalibrowanych progów i sprawnej kolejki wyjątków.

Najczęstsze pytania

Czy każda automatyzacja potrzebuje eskalacji do człowieka? Nie każda — dla powtarzalnych, niskiego ryzyka decyzji pełna automatyzacja ma sens. Eskalacja staje się ważna tam, gdzie koszt pomyłki rośnie albo gdzie decyzja podlega nadzorowi.

Jak ustala się próg pewności? Osobno dla każdego typu decyzji, zależnie od tego, jak kosztowna byłaby pomyłka — nie ma jednego uniwersalnego progu dla całej firmy.

Co się dzieje, kiedy AI nie jest pewne? Sprawa trafia do kolejki wyjątków razem z propozycją AI i uzasadnieniem, dlaczego system nie był pewny — człowiek ocenia i decyduje szybciej, bo nie zaczyna od zera.

Czy to spowalnia proces? Dla większości spraw — nie, bo te powyżej progu pewności są obsługiwane automatycznie od razu. Spowolnieniu podlega tylko wąski margines przypadków, które i tak wymagałyby ludzkiej uwagi.

Czy ten model pasuje tylko do dużych organizacji? Nie — działa niezależnie od skali firmy. Mała firma z jednym procesem korzysta z niego tak samo, jak duża organizacja z wieloma działami, tylko przy mniejszej liczbie progów i mniejszej kolejce wyjątków.

Jeśli zastanawiasz się, które z Waszych decyzji nadają się do pełnej automatyzacji, a które powinny eskalować do człowieka, napiszcie do nas — zaczynamy od mapy procesu, nie od gotowego rozwiązania.