Czym jest odpowiedzialna AI?

Odpowiedzialna AI to praktyka tworzenia i wdrażania systemów sztucznej inteligencji w sposób sprawiedliwy, przejrzysty i rozliczalny oraz z poszanowaniem praw człowieka. Przenosi ona etykę z poziomu abstrakcyjnych zasad na poziom konkretnych decyzji inżynierskich i zarządczych: wyborów dokonywanych przed oddaniem systemu do użytku, w trakcie jego działania i po nim.

Definicja robocza

Odpowiedzialna AI nie jest funkcją produktu, lecz sposobem pracy, w którym społeczne skutki systemu AI traktuje się jako część problemu inżynierskiego, a nie jako kwestię do rozważenia na końcu. Jej wartości, spotykane także pod nazwami „godna zaufania AI” i „etyczna AI”, są szeroko podzielane: zarówno Zasady OECD dotyczące sztucznej inteligencji (2019, zaktualizowane w 2024), jak i Konwencja ramowa Rady Europy o sztucznej inteligencji (2024) odwołują się, różnymi słowami, do sprawiedliwości, przejrzystości, rozliczalności, ludzkiego nadzoru, bezpieczeństwa i praw człowieka.

Od deklaracji wartości odróżnia ją przejście do praktyki operacyjnej: jakie dane zbierać, jakie testy przeprowadzać, które wyniki uznać za porażkę, kto zatwierdza wdrożenie. Odpowiedzialna AI oznacza udzielenie odpowiedzi na te pytania, ich udokumentowanie i zgodę na to, by być z nich rozliczanym.

Sprawiedliwość to zbiór decyzji, nie właściwość

Większość używanych dziś systemów AI uczy się wzorców z danych, a dane są zapisem świata takiego, jakim był, wraz z jego nierównościami. Model, który wstępnie selekcjonuje podania o pracę i został wytrenowany na wcześniejszych decyzjach rekrutacyjnych, najprawdopodobniej odtworzy wszelkie preferencje zawarte w tych decyzjach. Nikt nie musi mieć zamiaru dyskryminowania: mechanizm jest statystyczny, a skutek społeczny.

Sprawiedliwość jest też trudna do zdefiniowania. Istnieje kilka definicji matematycznych, na przykład równe odsetki błędów w poszczególnych grupach albo równe odsetki korzystnych decyzji, i poza szczególnymi przypadkami nie da się ich wszystkich spełnić jednocześnie, gdy grupy różnią się w danych źródłowych. Wybór między nimi jest sądem wartościującym, a nie decyzją techniczną; sam wybór i jego uzasadnienie powinny zostać odnotowane.

Testowanie pod kątem stronniczości wiąże się dodatkowo z kompromisem w zakresie prywatności: aby zmierzyć, czy grupy są traktowane odmiennie, zwykle trzeba znać przynależność grupową każdej osoby, a to często informacja wrażliwa. Jedną z odpowiedzi jest testowanie na danych syntetycznych, zanonimizowanych lub chronionych prywatnością różnicową; otwarte pozostaje pytanie, kiedy takie dane wystarczają, by ujawnić problemy, które mają znaczenie. Raport techniczny Fundacji analizuje tę kwestię na danych symulowanych i rzeczywistych.

Przejrzystość to dowody, nie deklaracje

Przejrzystość ma dwa poziomy. Pierwszy dotyczy osób, na które system wpływa: czy wiedzą, że mają do czynienia z AI, czy decyzja w ich sprawie została podjęta automatycznie i czy mogą uzyskać istotne informacje o zastosowanej logice. Artykuł 22 RODO już dziś przyznaje osobom fizycznym prawa w odniesieniu do decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują skutki prawne lub w podobny sposób istotnie na nie wpływają.

Drugi poziom, nadzór, wymaga dokumentacji: danych treningowych, metody ewaluacji i populacji, na której ją przeprowadzono, wyników oraz znanych ograniczeń. Stwierdzenie, że system „został przetestowany pod kątem stronniczości”, jest deklaracją; protokół ewaluacji z wynikami, które ktoś inny mógłby odtworzyć, jest dowodem.

Wyjaśnialność, czyli wskazanie, dlaczego system dał taki, a nie inny wynik, wiąże się z własnym kompromisem. Prostsze modele łatwiej wyjaśnić, ale mogą działać gorzej; modele złożone mogą być dokładniejsze, lecz oferują jedynie przybliżone wyjaśnienia formułowane po fakcie. To, ile wyjaśnień wystarczy, zależy od stawki: rekomendacja filmu i decyzja o świadczeniu socjalnym to dwie różne sytuacje.

Rozliczalność wymaga osoby, która może odpowiedzieć

Rozliczalność oznacza, że za skutki działania systemu odpowiada możliwa do wskazania organizacja oraz możliwe do wskazania osoby w jej ramach, a osoby, których system dotyczy, mogą zakwestionować decyzję i uzyskać zadośćuczynienie. Nie da się jej przekazać oprogramowaniu. Norma ISO/IEC 42001 (2023), dotycząca systemu zarządzania AI, oraz NIST AI Risk Management Framework 1.0 (styczeń 2023), czyli ramy zarządzania ryzykiem AI, konkretyzują to przez zdefiniowane role, udokumentowaną ocenę ryzyka i rejestr podejmowanych decyzji, tak aby wyjaśnienie nie kończyło się na stwierdzeniu „algorytm zdecydował”.

Ludzki nadzór często przedstawia się jako odpowiedź na problem rozliczalności, a przy tym łatwo go źle zrozumieć. Osoba, która zatwierdza każdą rekomendację w kilka sekund, nie mając czasu, informacji ani uprawnień, by się sprzeciwić, zapewnia pozór nadzoru, a nie jego istotę. Nowszym przypadkiem jest sytuacja, w której jeden model AI ocenia wyniki drugiego i wpływa na decyzje o wdrożeniu. Taki sędzia może być użyteczny, ale nie bierze na siebie żadnej odpowiedzialności, a jego ślepe punkty zasługują na równie wnikliwą kontrolę jak system, który ocenia.

Od zasady do cyklu życia

Wspólnym wątkiem jest moment działania: odpowiedzialna AI to zestaw pytań zadawanych na każdym etapie życia systemu, a na te najwcześniejsze zwykle najtaniej jest zareagować.

• Przed budową systemu: czy AI jest w ogóle właściwym narzędziem i kto ponosi ryzyko, jeśli zawiedzie.
• Przed udostępnieniem: co przetestowano, na kim, według której definicji sprawiedliwości i co uznaje się za porażkę.
• Po wdrożeniu: jak monitoruje się działanie systemu, kto rozpatruje skargi i kiedy system zostaje wycofany.

Unijny akt w sprawie sztucznej inteligencji (AI Act, rozporządzenie (UE) 2024/1689) wszedł w życie 1 sierpnia 2024 r. i jest stosowany etapami: większość zakazanych praktyk od 2 lutego 2025 r., a modele AI ogólnego przeznaczenia od 2 sierpnia 2025 r. Większość obowiązków dotyczących systemów wysokiego ryzyka miała pierwotnie mieć zastosowanie od 2 sierpnia 2026 r., a w przypadku AI wysokiego ryzyka wbudowanej w produkty objęte już unijnymi przepisami produktowymi od 2 sierpnia 2027 r.; cyfrowy omnibus w sprawie AI (rozporządzenie (UE) 2026/1744), który wszedł w życie 27 lipca 2026 r., przesunął te terminy odpowiednio na 2 grudnia 2027 r. i 2 sierpnia 2028 r. Prawo wyznacza dolną granicę; odpowiedzialną AI jest to, co organizacja robi ponad nią, i sposób, w jaki wykazuje, że to zrobiła.

Co z tego wynika

Dla nauczyciela, pracownika organizacji pozarządowej czy urzędnika, który styka się z systemem AI w pracy, istotę rzeczy oddaje kilka pytań: jaką decyzję system wspiera, kogo dotyczy, na jakich danych został wytrenowany, jak i na kim go przetestowano, z kim można się skontaktować, gdy zawiedzie, i czy człowiek może uchylić jego decyzję. Organizacja, która nie potrafi na nie odpowiedzieć, nie wdrożyła jeszcze odpowiedzialnej AI w praktyce, niezależnie od tego, co głosi jej polityka.

Fundacja zajmuje się tymi pytaniami w ramach badań i działalności wydawniczej, w tym w raporcie technicznym o wykrywaniu stronniczości, do którego link znajduje się powyżej, oraz w artykułach w tej sekcji.

W skrócie

Odpowiedzialna AI to praktyka tworzenia i wdrażania systemów sztucznej inteligencji w sposób sprawiedliwy, przejrzysty i rozliczalny oraz z poszanowaniem praw człowieka. Przenosi etykę z poziomu abstrakcyjnych zasad na poziom konkretnych decyzji inżynierskich i zarządczych, czyli wyborów dokonywanych przed oddaniem systemu do użytku, w trakcie jego działania i po nim, na przykład jakie dane zbierać i jakie testy przeprowadzać.

Najczęściej zadawane pytania

Jakie są podstawowe zasady odpowiedzialnej AI?

Zasady OECD dotyczące sztucznej inteligencji (2019, zaktualizowane w 2024) oraz Konwencja ramowa Rady Europy o sztucznej inteligencji (2024) odwołują się, różnymi słowami, do sprawiedliwości, przejrzystości, rozliczalności, ludzkiego nadzoru, bezpieczeństwa i praw człowieka. Te same wartości występują też pod nazwami „godna zaufania AI” i „etyczna AI”.

Dlaczego trudno zdefiniować sprawiedliwość w AI?

Istnieje kilka definicji matematycznych sprawiedliwości, na przykład równe odsetki błędów w poszczególnych grupach albo równe odsetki korzystnych decyzji. Poza szczególnymi przypadkami nie da się ich wszystkich spełnić jednocześnie, gdy grupy różnią się w danych źródłowych. Wybór między nimi jest sądem wartościującym, a nie decyzją techniczną, więc sam wybór i jego uzasadnienie warto odnotować.

Jak system AI może stać się stronniczy, choć nikt nie zamierzał dyskryminować?

Większość systemów AI uczy się wzorców z danych, a dane są zapisem świata takiego, jakim był, wraz z jego nierównościami. Model selekcjonujący podania o pracę, wytrenowany na wcześniejszych decyzjach rekrutacyjnych, najprawdopodobniej odtworzy preferencje zawarte w tych decyzjach. Mechanizm jest statystyczny, a skutek społeczny.

Co oznacza prawdziwa przejrzystość w AI?

Przejrzystość w AI to dowody, a nie deklaracje. Stwierdzenie, że system „został przetestowany pod kątem stronniczości”, jest deklaracją, natomiast protokół ewaluacji z wynikami, które ktoś inny mógłby odtworzyć, jest dowodem. Na potrzeby nadzoru system wymaga też dokumentacji: danych treningowych, metody ewaluacji i populacji, wyników oraz znanych ograniczeń.

Kto odpowiada, gdy system AI się pomyli?

Za skutki działania systemu odpowiada możliwa do wskazania organizacja oraz konkretne osoby w jej ramach, a osoby, których system dotyczy, mogą zakwestionować decyzję i uzyskać zadośćuczynienie. Rozliczalności nie da się przekazać oprogramowaniu. Norma ISO/IEC 42001 (2023) i NIST AI Risk Management Framework 1.0 konkretyzują to przez role, udokumentowaną ocenę ryzyka i rejestr decyzji.

Jak cytować Fundacja LASTHUMAN. (2026, 28 lipca). Czym jest odpowiedzialna AI? https://lasthuman.today/pl/insights/what-is-responsible-ai.html