AI nie podejmuje decyzji, więc kto naprawdę decyduje?

• AI do selekcji kandydatów
• Człowiek decyduje o wyniku wygenerowanym przez AI
• Stanowisko to nie decyzja
• Brak kontroli nad decyzją
• Pozorna zgodność z AI Act

AI do selekcji kandydatów

Wyobraźmy sobie prostą sytuację. Firma używa AI do selekcji kandydatów. System analizuje CV i wskazuje najlepsze dopasowania. Działa szybko, efektywnie i daje poczucie kontroli. Jedna osoba zostaje odrzucona. Pada pytanie: „Dlaczego?” Odpowiedź: „System tak ocenił.” Brzmi znajomo. I jest całkowicie fałszywe.

Człowiek decyduje o wyniku wygenerowanym przez AI

AI nie podejmuje decyzji. AI generuje wynik. To człowiek powinien zdecydować, co z tym wynikiem zrobić. Problem polega na tym, że w większości organizacji ten moment… nie istnieje.

Nie ma miejsca, w którym ktoś mówi: „To jest decyzja. To jest mój wybór. Biorę za to odpowiedzialność.” Zamiast tego mamy cichy mechanizm: AI > wynik > zatwierdzenie > działanie. Bez decyzji. Bez właściciela. Bez odpowiedzialności.

Stanowisko to nie decyzja

Organizacje mają stanowiska. Ale stanowisko to nie decyzja. Decyzja to moment wyboru. To chwila, w której ktoś realnie może zrobić inaczej. Można mieć dyrektora, który formalnie odpowiada, ale nigdy nie podejmuje decyzji — tylko zatwierdza wynik systemu. W takim układzie decyzja nie istnieje. Istnieje tylko proces.

Dopóki wszystko działa, problem jest niewidoczny. System jest szybki, wyniki są spójne, organizacja funkcjonuje. Problem pojawia się dopiero wtedy, gdy ktoś pyta „dlaczego?”. W tym momencie kończy się technologia, a zaczyna odpowiedzialność. AI Act nie naprawi tego automatycznie. Można mieć dokumentację, procedury i checklisty — i nadal nie mieć decyzji. Zgodność na papierze nie oznacza kontroli w rzeczywistości.

Brak kontroli nad decyzją

W praktyce oznacza to sytuacje, w których organizacja nie jest w stanie wyjaśnić decyzji pracownikowi, kandydatowi lub regulatorowi — mimo że formalnie posiada wszystkie procedury. To właśnie w tym miejscu pojawia się realne ryzyko: nie błędu technologii, ale braku kontroli nad decyzją.

Prawdziwe pytanie brzmi: czy wiemy, gdzie podejmowana jest decyzja? I czy ktoś naprawdę ją podejmuje? Problem nie jest technologiczny. Jest architektoniczny. Brakuje warstwy decyzji. To ona określa, gdzie kończy się rekomendacja AI, gdzie zaczyna się wybór człowieka, kto odpowiada za rezultat, i czy decyzję można wyjaśnić.

Pozorna zgodność z AI Act

W kontekście AI Act oznacza to ryzyko pozornej zgodności — organizacja spełnia wymogi formalne, ale nie ma realnej kontroli nad procesem decyzyjnym. Dlatego kluczowym elementem wdrożenia AI staje się architektura decyzji — czyli świadome zaprojektowanie miejsca, w którym kończy się rekomendacja systemu, a zaczyna odpowiedzialność człowieka. To nie jest pytanie o technologię. To jest pytanie o kontrolę nad decyzją. Bo decyzja to nie wynik. Decyzja to moment, w którym ktoś mówi: „to jest mój wybór”.

Autor: Łukasz Hinc, ekspert w obszarze architektury decyzji i AI governance