Budowanie zaufania: przejrzystość w decyzjach AI

Przejrzystość w decyzjach AI oznacza, że osoba wie, że w podjęciu dotyczącej jej decyzji uczestniczył system zautomatyzowany, i może poznać główne czynniki stojące za wynikiem, a regulator lub badacz może sprawdzić, czy system działa tak, jak deklarowano. Gdy system AI kształtuje decyzję dotyczącą kredytu, diagnozy lub podania o pracę, osoby, których ta decyzja dotyczy, zasługują na to, by wiedzieć, jak została podjęta, i by móc ją zakwestionować.

Czym przejrzystość jest, a czym nie jest

Przejrzystość ma cztery warstwy:

• Ujawnienie: osoba wie, że w podjęciu dotyczącej jej decyzji uczestniczył system zautomatyzowany.
• Przejrzystość systemu: dokumentacja jego przeznaczenia, danych treningowych i testowych, skuteczności dla różnych grup oraz sytuacji, w których nie należy go używać.
• Wyjaśnialność: główne czynniki stojące za konkretnym wynikiem dla konkretnej osoby.
• Audytowalność: zapisy i dowody, które pozwalają regulatorowi lub badaczowi sprawdzić, czy system działa tak, jak deklarowano.

Przejrzystość nie oznacza publikowania kodu źródłowego ani parametrów modelu; plik z wagami modelu nic nie mówi osobie, której wniosek odrzucono. Celem jest informacja, na podstawie której odbiorca może działać.

Dlaczego zależą od niej nadzór i możliwość odwołania

Każda z tych warstw chroni konkretną możliwość: zapytania, czy decyzja była zautomatyzowana, wychwycenia i poprawienia błędnych danych wejściowych, na przykład źle zaksięgowanej płatności, oraz ustalenia po fakcie, czy system działał zgodnie z zamierzeniem.

Na tym opiera się prawo europejskie. Art. 22 RODO daje osobom fizycznym prawo do tego, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, która wywołuje skutki prawne lub w podobny sposób istotnie na nie wpływa. Tam, gdzie taka decyzja jest dopuszczalna, bo jest niezbędna do zawarcia lub wykonania umowy albo opiera się na wyraźnej zgodzie, administrator musi zapewnić zabezpieczenia, co najmniej prawo do interwencji człowieka, do wyrażenia własnego stanowiska i do zakwestionowania decyzji.

Unijny akt w sprawie sztucznej inteligencji (AI Act), czyli rozporządzenie (UE) 2024/1689, idzie dalej w przypadku systemów wysokiego ryzyka, do których należą ocena zdolności kredytowej osób fizycznych, rekrutacja i dostęp do edukacji. Dostawcy muszą dokumentować takie systemy, umożliwić rejestrowanie zdarzeń i zapewnić, by ich wyniki były interpretowalne dla podmiotów stosujących, czyli organizacji, które z nich korzystają. Podmioty stosujące muszą informować ludzi, że taki system jest wykorzystywany w decyzjach, które ich dotyczą, oraz powierzyć nadzór ze strony człowieka osobom mającym kompetencje, przeszkolenie i uprawnienia, by interweniować. Osoba, której dotyczy taka decyzja o skutkach prawnych lub podobnie istotnych i która uważa ją za niekorzystną, może uzyskać od podmiotu stosującego jasne i merytoryczne wyjaśnienie roli systemu w podjęciu tej decyzji oraz jej głównych elementów (art. 86). Większość obowiązków dotyczących systemów wysokiego ryzyka miała pierwotnie mieć zastosowanie od 2 sierpnia 2026 r., a w przypadku AI wysokiego ryzyka w produktach objętych odrębnymi przepisami od 2 sierpnia 2027 r.; cyfrowy omnibus w sprawie AI (rozporządzenie (UE) 2026/1744), który wszedł w życie 27 lipca 2026 r., przesunął te terminy odpowiednio na 2 grudnia 2027 r. i 2 sierpnia 2028 r.

Jak wygląda rzetelne wyjaśnienie

Dla osoby, której dotyczy decyzja, wyjaśnienie, na podstawie którego może działać, obejmuje:

• Informację, że użyto systemu zautomatyzowanego, i w której części decyzji.
• Główne czynniki, które przesądziły o wyniku, opisane prostym językiem.
• Co musiałoby się zmienić, by wynik był inny, o ile jest to realistyczne.
• Jak skontaktować się z człowiekiem, poprawić dane i zakwestionować wynik.

Odmowa kredytu w brzmieniu „Państwa wniosek nie spełnił naszych kryteriów” niczego nie wyjaśnia. Odmowa, która brzmi: „Głównymi powodami były dochód poniżej poziomu wymaganego dla tego kredytu oraz dwie płatności odnotowane w zeszłym roku jako opóźnione; mogą Państwo wystąpić o weryfikację historii płatności oraz o ponowną ocenę przez człowieka”, daje wnioskodawcy coś do sprawdzenia i drogę dalszego postępowania. Nie ujawnia modelu; ujawnia decyzję.

Pacjent powinien wiedzieć, że ocenę wspierało oprogramowanie i że odpowiedzialność nadal ponosi lekarz; lekarz musi znać poziom pewności systemu oraz obszary, w których działa on słabo. Kandydat do pracy powinien dowiedzieć się, że użyto narzędzia do wstępnej selekcji, co ono oceniało i jak poprosić o weryfikację przez człowieka, tak by lista wybranych kandydatów pozostała rekomendacją, a nie wyrokiem.

Metody i ich ograniczenia

Istnieją dwie drogi techniczne: modele interpretowalne z założenia, takie jak karty scoringowe lub reguły decyzyjne, oraz metody post hoc dla złożonych modeli, w tym atrybucja cech (na przykład SHAP i LIME) oraz wyjaśnienia kontrfaktyczne, które opisują najmniejszą zmianę danych wejściowych, jaka odwróciłaby wynik.

Metody post hoc podsumowują lub przybliżają zachowanie modelu, a nie odsłaniają jego mechanizmu; różne metody mogą się ze sobą nie zgadzać co do tej samej decyzji, atrybucje mogą się zmieniać przy niewielkich zmianach danych wejściowych, a gładko brzmiące wyjaśnienie może budzić większe zaufanie, niż model na nie zasługuje. Wyjaśnienia kontrfaktyczne powinny ograniczać się do zmian, które dana osoba może wprowadzić: powiedzenie komuś, że uzyskałby pozytywną decyzję, gdyby był o dziesięć lat młodszy, nie jest poradą, lecz sygnałem, że model opiera się na cesze, której ta osoba nie może zmienić, być może chronionej przez przepisy o równym traktowaniu.

Tajemnica przedsiębiorstwa, dane osobowe innych osób i ryzyko obchodzenia systemu mogą uzasadniać pewne ograniczenia; praktycznym rozwiązaniem jest dostęp wielopoziomowy: osoby, których dotyczy decyzja, otrzymują to, czego potrzebują, by zakwestionować decyzję w swojej sprawie, audytorzy dostają dokumentację i rejestry zdarzeń, a opinia publiczna podsumowania celu, testów i zabezpieczeń.

Dowody zamiast deklaracji: praktyczne wnioski

Zaufanie publiczne opiera się na dowodach, które można sprawdzić, a nie na ogólnych deklaracjach. Nadzór człowieka jest realny tylko wtedy, gdy osoby, które go sprawują, mogą uchylić rozstrzygnięcie systemu; AI Act wymaga, by osoby nadzorujące systemy wysokiego ryzyka były w stanie zachować czujność wobec błędu automatyzacji (automation bias), czyli skłonności do automatycznego polegania na wyniku systemu, i mogły ten wynik uchylić. Każdy, kto taki system zamawia, eksploatuje lub mu podlega, może zapytać:

• Czy w grę wchodzi system AI i czy osoby, których to dotyczy, o tym wiedzą.
• Co system ma robić i w jakich sytuacjach wiadomo, że zawodzi.
• Na czym był testowany i jakie są wyniki dla różnych grup.
• Kto może uchylić jego wynik i czy ma na to czas oraz uprawnienia.
• Jak można uzyskać wyjaśnienie i zakwestionować wynik.
• Czy decyzje są rejestrowane na potrzeby późniejszej weryfikacji.

Jeśli organizacja nie potrafi odpowiedzieć, problemem nie jest skomplikowany model, lecz system wdrożony bez warunków umożliwiających rozliczalność. Praca Fundacji w tym obszarze to badania i publikacje: o wyjaśnialności, o rozliczalności za zautomatyzowane decyzje oraz o tym, kiedy wyniki testów potwierdzają deklarowaną sprawiedliwość systemu, co analizuje jej raport techniczny o wykrywaniu stronniczości na gruncie AI Act w odniesieniu do danych syntetycznych, zanonimizowanych i objętych prywatnością różnicową.

W skrócie

Przejrzystość w decyzjach AI oznacza, że osoba wie, iż w podjęciu dotyczącej jej decyzji uczestniczył system zautomatyzowany, i może poznać główne czynniki stojące za wynikiem, a regulator lub badacz może sprawdzić, czy system działa tak, jak deklarowano. Ma cztery warstwy: ujawnienie, przejrzystość systemu, wyjaśnialność i audytowalność. Celem jest informacja, na podstawie której odbiorca może działać, a nie publikacja kodu źródłowego.

Najczęściej zadawane pytania

Czym różni się przejrzystość od wyjaśnialności w AI?

Przejrzystość jest pojęciem szerszym i ma cztery warstwy: ujawnienie, przejrzystość systemu, wyjaśnialność i audytowalność. Wyjaśnialność to tylko jedna z nich i dotyczy głównych czynników stojących za konkretnym wynikiem dla konkretnej osoby.

Czy przejrzystość AI oznacza publikowanie kodu źródłowego?

Nie. Przejrzystość nie oznacza publikowania kodu źródłowego ani parametrów modelu, bo plik z wagami modelu nic nie mówi osobie, której wniosek odrzucono. Celem jest informacja, na podstawie której odbiorca może działać.

Co mówi art. 22 RODO o decyzjach zautomatyzowanych?

Art. 22 RODO daje osobom fizycznym prawo, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, która wywołuje skutki prawne lub w podobny sposób istotnie na nie wpływa. Gdy taka decyzja jest dopuszczalna, bo jest niezbędna do umowy albo opiera się na wyraźnej zgodzie, administrator musi zapewnić zabezpieczenia, co najmniej prawo do interwencji człowieka, wyrażenia własnego stanowiska i zakwestionowania decyzji.

Czy AI Act daje prawo do wyjaśnienia decyzji podjętej z udziałem AI?

W przypadku systemów wysokiego ryzyka AI Act (rozporządzenie (UE) 2024/1689) przewiduje, że osoba, której dotyczy decyzja o skutkach prawnych lub podobnie istotnych i która uważa ją za niekorzystną, może uzyskać od podmiotu stosującego jasne i merytoryczne wyjaśnienie roli systemu w tej decyzji oraz jej głównych elementów (art. 86). Należą do nich m.in. ocena zdolności kredytowej, rekrutacja i dostęp do edukacji.

Co sprawia, że wyjaśnienie decyzji zautomatyzowanej jest rzetelne?

Rzetelne wyjaśnienie informuje, że użyto systemu zautomatyzowanego i w której części decyzji. Podaje prostym językiem główne czynniki, które przesądziły o wyniku, oraz to, co musiałoby się zmienić, by wynik był inny, o ile jest to realistyczne. Wskazuje też, jak skontaktować się z człowiekiem, poprawić dane i zakwestionować wynik.

Jak cytować Fundacja LASTHUMAN. (2026, 15 września). Budowanie zaufania: przejrzystość w decyzjach AI. https://lasthuman.today/pl/insights/transparency-in-ai-decision-making.html