AI Act – czy Unia Europejska okiełzna sztuczną inteligencję?

Od 2025 r. w Unii Europejskiej obowiązuje AI Act. Jest to pierwsze na świecie rozporządzenie, które kompleksowo reguluje wykorzystanie sztucznej inteligencji. Akt ten obejmie m.in. rozwiązania wspierające rekrutację i zarządzanie procesami HR. Co zmieniły nowe przepisy?

Sztuczna inteligencja (z ang. artificial intelligence – AI) coraz bardziej wpływa na różne aspekty życia człowieka, a jej rozwój wymaga odpowiednich regulacji. AI dynamicznie zmienia krajobraz gospodarczy i społeczny wielu państw na świecie. Dzięki zaawansowanym algorytmom umożliwia lepsze prognozowanie, optymalizację procesów i efektywne zarządzanie zasobami, co przekłada się na wyraźną przewagę konkurencyjną wielu przedsiębiorstw. AI znajduje obecnie zastosowanie w każdej dziedzinie życia ludzkiego, od opieki zdrowotnej po rolnictwo.

Kogo dotyczą nowe przepisy?

Nowe regulacje obejmą dostawców/producentów, twórców systemów AI, jak i organizacje oraz instytucje wykorzystujące sztuczną inteligencję, niezależnie od miejsca ich siedziby (Unia Europejska, państwa trzecie), jeśli tylko „wyniki ich działania są wykorzystywane w Unii Europejskiej”. AI Act dotyczy więc:

finansów – systemów oceny kredytowej i analizy ryzyka inwestycyjnego,
opieki zdrowotnej – AI wspierającej diagnostykę, analizę obrazów medycznych i prowadzenie dokumentacji,
edukacji – algorytmów oceniających wyniki uczniów, wspomagających nauczanie czy rekomendujących ścieżki edukacyjne,
administracji publicznej – narzędzi automatyzujących decyzje urzędowe, procesy przyznawania świadczeń, analizy danych statystycznych,
handlu i marketingu – systemów rekomendujących produkty, analizujących preferencje konsumentów czy personalizujących oferty.

Sztuczna inteligencja w HR pod większym nadzorem

Nowe Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) wprowadza m.in. zakaz stosowania technologii opartych na sztucznej inteligencji w przypadkach, które mogą naruszać podstawowe prawa i wolności człowieka – np. manipulacja emocjonalna, nieuprawnione profilowanie kandydatów (tzw. scoring społeczny). Scoring społeczny obejmuje ocenianie ludzi na podstawie ich zachowań, stylu życia, przekonań itd. Stosowanie tego typu systemów może powodować niesprawiedliwe traktowanie, ograniczające dostęp do usług, nowych możliwości zawodowych. AI Act nie zakazuje całkowitego korzystania z AI w HR, ale nakłada na stosowanie tych technologii pewne warunki, a to dla wielu organizacji może oznaczać konieczność przedefiniowania dotychczasowego podejścia do prowadzenia działalności gospodarczej.

Nowe przepisy skupiają się szczególnie na systemach klasyfikowanych jako narzędzia wysokiego ryzyka. Są to m.in. narzędzia, które wpływają na decyzje dotyczące zatrudnienia. Nowe przepisy stanowią, że tego rodzaju rozwiązania muszą działać w ramach określonych granic – z zachowaniem ludzkiego nadzoru, bez nieuzasadnionej ingerencji w procesy decyzyjne, które dotyczą zatrudnienia. Kandydaci muszą być w pełni świadomi, że ich aplikacje są analizowane z użyciem algorytmów sztucznej inteligencji.

Nowe prawo wskazuje także na potrzebę unikania wszelkich praktyk, które mogą wykluczać kandydatów ze względu na ich wiek, pochodzenie, status społeczny, płeć oraz inne cechy osobiste. Działy HR muszą bardziej świadomie korzystać z danych, którymi dysponują, a projektanci AI – projektować swoje narzędzia tak, by nie powielały stereotypów, nie kreowały uprzedzeń, nawet w sposób nieintencjonalny.

Kandydat musi wiedzieć

Nowe przepisy unijne wzmacniają pozycję kandydatów. Osoby, które biorą udział w rekrutacji, muszą być informowane o tym, że ich aplikację analizuje system AI. Muszą też wiedzieć, na jakich zasadach odbywa się ta analiza. Dlatego firmy będą musiały zadbać o jeszcze bardziej czytelną i zrozumiałą informację kierowaną do kandydata. Taką informację można zamieścić np. w formularzu aplikacyjnym lub polityce prywatności.
Wśród zakazanych praktyk znalazły się np. analiza emocjonalna kandydatów, rozpoznawanie twarzy z nagrań monitoringu, ocenienie kandydatów na podstawie ich aktywności w social mediach.

AI Act dotyczy co prawda krajów unijnych, ale eksperci wskazują, że stanie się on wzorem dla podobnych regulacji w innych krajach. Dla firm, które działają w sposób globalny to nie tylko lokalne wyzwanie, ale przyszły światowy standard.
Nowe przepisy stawiają jasne granice, ale także otwierają drogę do etycznego i odpowiedzialnego wykorzystywania sztucznej inteligencji w procesach HR. Dla wielu firm to szansa, aby nie tylko działać zgodnie z literą prawa, ale także budować nowy rodzaj zaufania kandydatów.

Autor: Sebastian Woroniak, Redaktor WERBEO

Zobacz też