AI świetnie radzi sobie z czytaniem dokumentów, klasyfikowaniem transakcji i podsumowywaniem długich raportów. W sektorze finansowym to jednak dopiero połowa układanki — druga połowa to pytanie, kto (albo co) faktycznie podejmuje decyzję i czy da się ją odtworzyć miesiąc czy rok później. W regulowanej branży ta granica nie jest szczegółem technicznym, tylko warunkiem, żeby w ogóle móc bezpiecznie wdrożyć AI.

Dlaczego regulowana branża traktuje AI inaczej

Sektor bankowy i finansowy działa pod stałym nadzorem i regularnymi audytami — każda istotna decyzja musi dać się wytłumaczyć i odtworzyć, a odpowiedzialność za nią musi być jasno przypisana. To nie jest kwestia dobrej woli, tylko fundament, na którym opiera się zaufanie do całego systemu finansowego. Wdrażając tam AI, trzeba projektować rozwiązanie tak, żeby ta odtwarzalność i odpowiedzialność zostały nienaruszone, niezależnie od tego, jak duża część procesu jest zautomatyzowana.

Co właściwie znaczy „decyzja deterministyczna”

Decyzja deterministyczna to taka, która przy tych samych danych wejściowych zawsze da ten sam wynik — dziś, za miesiąc i za rok, niezależnie od tego, kto ją uruchomi. Silnik liczący odsetki, opłatę czy zobowiązanie podatkowe musi działać dokładnie według tej samej logiki za każdym razem, a ta logika musi dać się pokazać krok po kroku.

Model językowy działa inaczej z natury. Nawet przy tym samym pytaniu może sformułować odpowiedź trochę inaczej za każdym razem, a jego rozumowanie nie jest zestawem jawnych, wersjonowanych reguł, tylko wzorcem wyuczonym na ogromnym zbiorze danych. To nie czyni go gorszym narzędziem — czyni go niewłaściwym narzędziem do konkretnej roli: obliczania zobowiązań finansowych czy podejmowania ostatecznej decyzji kredytowej.

Gdzie AI dobrze się sprawdza w finansach

Jest sporo zadań, w których AI realnie przyspiesza pracę i nie budzi wątpliwości audytowych: czytanie i klasyfikowanie dokumentów, wyciąganie danych z faktur i wyciągów, wstępne oznaczanie transakcji do dalszej weryfikacji, podsumowywanie długich raportów czy przygotowywanie szkiców komunikacji z klientem. W każdym z tych przypadków AI proponuje albo przygotowuje materiał, a człowiek lub deterministyczny system podejmuje ostateczną decyzję.

Widzimy to na co dzień we własnym produkcie księgowym. W Qkwicie AI czyta dokumenty i faktury, ale to deterministyczny silnik liczy podatki i składki ZUS — model nie zgaduje kwot, tylko dostarcza dane wejściowe do obliczeń, które wykonuje kod działający zawsze według tych samych reguł. Pisaliśmy o podobnym mechanizmie przy okazji tekstu o AI w księgowości JDG — ta sama logika przenosi się wprost na sektor finansowy, tylko ze stawką jeszcze wyższą.

Gdzie decyzja musi zostać po stronie kodu

Wszędzie tam, gdzie wynik ma bezpośredni skutek finansowy lub prawny i gdzie ktoś może zapytać „dlaczego akurat taki wynik” miesiące później, decyzję powinien podejmować deterministyczny kod, a nie sam model językowy. Dotyczy to obliczeń odsetek i opłat, progów decyzyjnych w ocenie ryzyka, sprawdzeń zgodności z wewnętrznymi regułami czy ostatecznego zatwierdzenia operacji.

To dokładnie zasada, którą stosujemy we wszystkich naszych wdrożeniach AI: model czyta, klasyfikuje i proponuje, a kod liczy i decyduje w sprawach krytycznych. Rozwinęliśmy ją szerzej w tekście AI proponuje, kod liczy: dlaczego rozdzielamy te role — w finansach to rozdzielenie jest nie tyle dobrą praktyką, co warunkiem koniecznym.

Co się psuje, gdy ta granica się zaciera

Ryzyko pojawia się nie wtedy, gdy AI w ogóle wchodzi do procesu finansowego, tylko wtedy, gdy zespół zaczyna traktować odpowiedź modelu jako gotową decyzję, a nie jako propozycję do zatwierdzenia. W praktyce widać to na przykład wtedy, gdy model dostaje zadanie „oceń ryzyko tej transakcji” bez jasno zdefiniowanego, oddzielnego kroku, który przekłada tę ocenę na konkretną, powtarzalną regułę decyzyjną. Wtedy dwie pozornie identyczne transakcje mogą zostać potraktowane inaczej, a nikt nie będzie w stanie wskazać reguły, która to tłumaczy — bo takiej reguły po prostu nie było, tylko wrażenie modelu w danym momencie.

Dlatego dobra architektura rozdziela te kroki fizycznie: model generuje ocenę albo rekomendację i zapisuje ją jako dane wejściowe, a osobny, wersjonowany zestaw reguł decyduje, co z tą oceną zrobić. Jeśli reguła się zmienia, zmiana jest świadoma, udokumentowana i możliwa do prześledzenia wstecz — czego nie da się powiedzieć o „zmianie zdania” modelu między jednym zapytaniem a drugim.

Audytowalność i odpowiedzialność

Deterministyczny silnik ma jedną ogromną przewagę na potrzeby audytu: jego logika jest jawna, wersjonowana i możliwa do pokazania krok po kroku, niezależnie od tego, kiedy dany przypadek został sprawdzony. Model językowy, nawet bardzo dobry, jest trudniejszy do odtworzenia identycznie po miesiącach — a jeśli w międzyczasie doszło do aktualizacji modelu, dokładne odtworzenie dawnej odpowiedzi bywa praktycznie niemożliwe.

Dlatego w praktyce dobrze sprawdza się model z eskalacją do człowieka w przypadkach granicznych — pisaliśmy o tym w kontekście automatyzacji decyzji z eskalacją jako bezpieczniejszym domyślnym podejściu. W finansach ta zasada łączy się z regułą deterministycznego silnika: jasne, powtarzalne przypadki liczy kod, przypadki graniczne trafiają do człowieka, a AI wspiera oba etapy, nie zastępując żadnego z nich w kluczowym momencie.

Co to oznacza dla architektury systemu

W praktyce oznacza to, że projektując system dla instytucji finansowej, warto od razu narysować granicę między warstwą odczytu (AI) a warstwą decyzyjną (kod) — i osobno logować, co zaproponował model, a osobno, jaką decyzję podjął silnik. Dzięki temu w razie kontroli albo reklamacji klienta da się precyzyjnie pokazać, na jakiej podstawie zapadła dana decyzja, bez odwoływania się do „tak powiedział model”.

Warto też pamiętać, że aktualizacja modelu językowego w tle nie powinna nigdy zmieniać wyniku obliczeń finansowych — jeśli zmienia, oznacza to, że logika decyzyjna wciąż siedzi w niewłaściwym miejscu architektury.

Nasze doświadczenie w IT dla bankowości i finansów

Od lat realizujemy projekty IT dla sektora bankowego i finansowego, więc rozumiemy specyfikę audytu, wymogów zgodności i tego, jak ostrożnie trzeba podchodzić do automatyzacji w tej branży — bez wchodzenia w szczegóły konkretnych wdrożeń klientów. Tę samą ostrożność stosujemy we własnych produktach: w Qkwicie AI czyta dokumenty, a deterministyczny silnik liczy zobowiązania, dokładnie według zasady, którą opisujemy w naszej ofercie wdrożeń AI.

Najczęstsze pytania

Czy AI może w ogóle podejmować decyzje finansowe? Może przygotowywać dane wejściowe, klasyfikować i proponować, ale ostateczną decyzję o kwocie, opłacie czy zobowiązaniu powinien wykonywać deterministyczny kod, który da się odtworzyć identycznie w każdym momencie.

Czym różni się „AI proponuje” od „AI decyduje”? W modelu „AI proponuje” model językowy czyta, klasyfikuje albo przygotowuje szkic, a decyzję zatwierdza człowiek lub osobny, deterministyczny system. W modelu „AI decyduje” model sam ustala wynik — co w regulowanej branży jest ryzykowne, bo trudno to odtworzyć i wytłumaczyć później.

Jak to wygląda przy audycie? Deterministyczny silnik pokazuje logikę krok po kroku, niezależnie od tego, kiedy przypadek był sprawdzany. To dużo prostsze do wyjaśnienia niż odpowiedź modelu językowego, którego zachowanie mogło się zmienić po aktualizacji.

Czy modele AI się zmieniają i czy to problem dla audytu? Tak, modele bywają aktualizowane, co utrudnia identyczne odtworzenie dawnej odpowiedzi. Dlatego krytyczne obliczenia trzymamy w kodzie, który nie zmienia się bez świadomej decyzji i wersjonowania.

Od czego zacząć wdrożenie AI w firmie z regulowanej branży? Od audytu procesu, który pokazuje, gdzie AI może realnie pomóc (czytanie, klasyfikacja, podsumowania), a gdzie decyzja musi zostać po stronie deterministycznego kodu.

Zastanawiacie się, jak to zrobić bezpiecznie u Was?

Jeśli rozważacie wdrożenie AI w firmie z regulowanej branży i zależy Wam na tym, żeby decyzje pozostały audytowalne i powtarzalne, chętnie porozmawiamy o Waszym przypadku — napiszcie do nas.