AI w rekrutacji dyskryminuje niektórych pracowników - poważne kontrowersje. Ryzyko prawne i biznesowe

• AI w rekrutacji - poważne kontrowersje
• Ryzyko związane z AI w rekrutacji - dyskryminacja
• Błędy AI - przykład firmy Exdrog
• AI w działach HR
• AI w HR - przepisy prawa
• AI Ac od 2 sierpnia 2027 r.
• AI w rekrutacji - dodatkowe obowiązki informacyjne pracodawcy
• Kontrola AI w HR

AI w rekrutacji - poważne kontrowersje

Wraz ze wzrostem wykorzystania systemów sztucznej inteligencji (AI) przez przedsiębiorców, rośnie ryzyko prawne i biznesowe takich działań. Nie inaczej jest w przypadku procesów rekrutacji. - Działy HR w Polsce już dziś bardzo chętnie korzystają w różnych aspektach z narzędzi wykorzysujących AI. Doświadczenia innych jurysdykcji pokazują jednak, że takie rozwiązania mogą się wiązać z istotnym ryzkiem i wymagają odpowiedniego nadzoru, aby uniknąć niepożądanych konsekwencji – podkreśla Anna Panek, specjalizująca się w prawie pracy w kancelarii Wolf Theiss. Choć automatyzacja rekrutacji niesie ze sobą znaczne korzyści - m.in. oszczędność czasu, redukcję kosztów i poprawę efektywności - wiąże się również z poważnymi wyzwaniami prawnymi i etycznymi.

Ryzyko związane z AI w rekrutacji - dyskryminacja

Istnieje jednak ryzyko, że takie rozwiązania mogą nieumyślnie dyskryminować niektóre chronione grupy społeczne. Już w 2023 r. doszło do pierwszego rozstrzygnięcia sądowego dotyczącego tych aspektów. W ramach ugody między EEOC (Equal Employment Opportunity Commission - Amerykańska Komisja ds. Równych Szans Zatrudnienia) a firmą iTutorGroup, gdzie system automatycznie odrzucał starszych kandydatów, firma zgodnie z warunkami ugody zgodziła się zapłacić 365 tys. USD grupie kandydatów, których podania zostały odrzucone ze względu na ich wiek. W ugodzie firma nie przyznała się do żadnego wykroczenia, ale zgodziła się przedłożyć EEOC „proponowane procedury antydyskryminacyjne i skargowe mające zastosowanie do selekcji, zatrudniania i nadzoru” kandydatów i pracowników.

- Podobnych spraw w USA, czy innych jurysdykcjach przybywa, wraz ze zwiększaniem się skali wykorzystywania AI. Choć w Polsce nie mieliśmy jeszcze takich rozstrzygnięć, to warto zauważyć, że sztuczna inteligencja coraz mocniej wpływa na kształtowanie procesów biznesowych. Szczególne widoczne jest to w rekrutacji – AI wpływa na sposób pozyskiwania kandydatów, jak i organizację całego procesu rekrutacyjnego, co staje się coraz bardziej zauważalne - mówi Anna Panek z Wolf Theiss.

Błędy AI - przykład firmy Exdrog

Media szeroko informowały m.in. o przypadku firmy Exdrog, która podczas przetargu na utrzymanie dróg w Małopolsce, wykorzystała AI do przygotowania dokumentów, które miały wykazać, że zaoferowana przez nią cena nie jest rażąco niska. Problem w tym, że wykonawca powoływał się na nieistniejące i nigdy niewydane interpretacje podatkowe, które rzekomo dotyczyły podobnych spraw. Krajowa Izba Odwoławcza wykluczyła Exdrog z postępowania przetargowego.

AI w działach HR

Dziś wykorzystanie AI w procesach rekrutacji dotyczy głównie analizy aplikacji w krótkim czasie, wyszukując kluczowe kompetencje i doświadczenie dopasowane do wymagań stanowiska. Coraz częściej też pierwszy kontakt kandydata z firmą odbywa się poprzez chatboty, które udzielają informacji, przeprowadzają wstępny wywiad czy zbierają dane. Niektóre narzędzia analizują także mimikę, ton głosu lub sposób wypowiedzi kandydatów podczas rozmów kwalifikacyjnych online — próbując wnioskować o ich cechach osobowości lub kompetencjach miękkich. Modele predykcyjne potrafią z kolei szacować, który kandydat ma największe szanse odnieść sukces na danym stanowisku, bazując na danych historycznych i statystycznych.

- W Polsce coraz częściej automatyzuje się procesy rekrutacyjne, głównie za pomocą systemów ATS (Applicant Tracking System - oprogramowanie do zarządzania procesem rekrutacji) ale również za pomocą innych systemów opartych na AI. Takie technologie wspierają rekruterów w selekcji kandydatów, oszczędzają czas, redukują powtarzalne zadania i tym samym skracają proces rekrutacyjny. Należy jednak pamiętać, że wdrożenie tych technologii musi być zgodne z obowiązującymi przepisami oraz nie może prowadzić do dyskryminacji kandydatów ze względu na cechy chronione prawem, tj. wiek, rasa, płeć - mówi Anna Panek.

AI w HR - przepisy prawa

Ryzyko nieświadomej dyskryminacji kandydatów może prowadzić do naruszenia art. 21 Karty Praw Podstawowych UE oraz dyrektywy o równości w zatrudnieniu (2000/78/WE). Na gruncie polskiego prawa niektóre działania związane z wykorzystaniem AI w rekrutacji mogą naruszać przepisy o ochronie danych osobowych czy Kodeksu pracy. Przetwarzanie danych kandydatów musi mieć podstawę prawną (np. kandydat wyraził na nie zgodę lub istnieje uzasadniony interes pracodawcy), a dodatkowo należy pamiętać o realizacji obowiązków informacyjnych czy zapewnieniu kandydatom przysługującym im praw.

- Pracodawca, który korzysta z narzędzi AI w procesie rekrutacji pozostaje odpowiedzialny za przestrzeganie przepisów wynikających z Kodeksu pracy – w szczególności zasad równego traktowania, czy przeciwdziałania dyskryminacji. Należy również pamiętać o katalogu danych osobowych, których pracodawca może żądać od osoby ubiegającej się o zatrudnienie, aby uniknąć gromadzenia informacji wykraczających poza dopuszczalny zakres - mówi ekspert.

AI Ac od 2 sierpnia 2027 r.

Jak wskazują specjaliści, oprócz RODO i obowiązujących już przepisów UE, duży wpływ na wykorzystanie AI podczas rekrutacji ma AI Act, czyli Rozporządzenie UE w sprawie sztucznej inteligencji, którego pełna implementacja ma nastąpić 2 sierpnia 2027 r. - AI Act uznaje systemy sztucznej inteligencji stosowanej w obszarze zatrudnienia, w tym w procesach rekrutacji, doboru kandydatów czy dostępu do samozatrudnienia, za systemy wysokiego ryzyka. Wynika to z faktu, że takie narzędzia mogą bezpośrednio wpływać na przyszłość zawodową kandydatów, ich prawa podstawowe, czy źródło utrzymania. Korzystanie z nich będzie wiązało się z m.in. z obowiązkiem wdrożenia odpowiednich środków technicznych i organizacyjnych, zapewnienia większej transparentności oraz nadzoru człowieka nad podejmowanymi decyzjami - dodaje Anna Panek.

AI w rekrutacji - dodatkowe obowiązki informacyjne pracodawcy

Korzystanie z systemów AI w miejscu pracy będzie wiązało się również z dodatkowymi obowiązkami informacyjnymi dla pracodawców. AI Act m.in. przewiduje (art. 26 ust. 7), że zanim taki system zostanie wdrożony, pracodawca będzie musiał poinformować pracowników i ich przedstawicieli, że taki system, będzie używany. Warto zauważyć, że na gruncie polskich przepisów pojawiają się pierwsze propozycje w zakresie informowania o stosowaniu systemów AI. Projekt nowelizacji ustawy o związkach zawodowych przewiduje, że pracodawca ma być zobowiązany – na wniosek zakładowej organizacji związkowej – do udzielenia informacji dotyczących m.in. parametrów, zasad i instrukcji na których opierają się algorytmy wykorzystywane w zakładzie pracy do podejmowania decyzji związanych z sytuacją pracownika.

Kontrola AI w HR

AI w rekrutacji to potężne narzędzie, które może zwiększyć efektywność procesu zatrudniania. Należy jednak pamiętać, że brak kontroli nad danymi i decyzjami algorytmicznymi, może prowadzić do poważnych naruszeń prawa, oraz tworzyć ryzyko biznesowe i finansowe. - Stosowanie sztucznej inteligencji w rekrutacji powinno wspierać proces, a nie całkowicie go zastępować. Nadzór człowieka jest kluczowy, ponieważ algorytmy mogą odrzucać kandydatów o nietypowych ścieżkach kariery, którzy w praktyce okazują się świetnym wyborem, a także prowadzić do nieświadomej dyskryminacji. Innowacje muszą iść w parze z odpowiedzialnością i przestrzeganiem prawa, aby uniknąć ryzyka naruszenia praw kandydatów – podkreśla Anna Panek.

By przeciwdziałać tym ryzykom, specjaliści zalecają regularne testowanie modeli pod kątem uprzedzeń i dyskryminacji i wprowadzenie zasady, dotyczącej weryfikowana przez człowieka każdej decyzji AI. Pomocne w dostosowaniu prowadzonych działań do obowiązujących przepisów są z pewnością audyty prawne, zapewniające zgodność procedur z RODO i AI Act. które pomogą zweryfikować, czy kandydaci są należycie informowani o stosowaniu AI, a zbierane dane są niezbędne do procesu rekrutacji.

Źródło: Wolf Theiss