Bezpieczeństwo AI a etyka AI: czym się różnią?

Pojęcia bezpieczeństwa AI (AI safety) i etyki AI są często używane zamiennie, ale stawiają różne pytania. Bezpieczeństwo pyta, czy system niezawodnie robi to, co zamierzyli jego twórcy; etyka pyta, czy ten zamiar i jego skutki dla ludzi dają się uzasadnić. Mówiąc najprościej: bezpieczeństwo dotyczy środków, etyka celów, a poważne podejście do AI wymaga jednego i drugiego.

Dwa pytania, nie jedno

Weźmy system rekomendacji treści. Pytanie o bezpieczeństwo brzmi, czy robi on to, do czego go zbudowano, niezawodnie i bez podatności na manipulację. Pytanie etyczne brzmi, czy to, do czego go zbudowano, na przykład zatrzymywanie ludzi na platformie jak najdłużej, jest uprawnionym celem i kto płaci cenę, gdy system działa dobrze. System może zdać pierwszy test i nie zdać drugiego. Zdarza się też odwrotnie: szczytne zasady na papierze i model, którego nikt nie przetestował na zmanipulowanych danych wejściowych.

Czym zajmuje się bezpieczeństwo AI

Systemy uczące się na danych nie robią po prostu tego, co mieli na myśli ich twórcy; robią to, co nagradzają funkcja celu, dane i środowisko. Główne tematy bezpieczeństwa AI wynikają z tej luki, a dochodzi do nich jeszcze jeden, dotyczący szkód wyrządzanych celowo.

• Zgodność celów (alignment): zapewnienie, by rzeczywiste cele systemu odpowiadały ludzkim intencjom, także w sytuacjach, których nikt nie przewidział.
• Odporność: przewidywalne zachowanie przy nietypowych danych wejściowych i wobec celowych ataków.
• Ocena: mierzenie, co model potrafi, a czego nie, za pomocą testów, których wcześniej nie widział.
• Kontrola i nadzór: zachowanie możliwości monitorowania, korygowania lub wyłączenia systemu.
• Zapobieganie nadużyciom: ograniczanie tego, w jakim stopniu system pomoże użytkownikowi wyrządzić poważną szkodę.

Dobrze udokumentowanym wzorcem błędu jest wykorzystywanie luk w specyfikacji (specification gaming), w uczeniu ze wzmocnieniem nazywane hakowaniem nagrody (reward hacking): system spełnia literę postawionego mu celu, a zarazem niweczy jego sens, jak agent grający w grę, który, nagradzany za punkty, krąży w kółko, by je zbierać, zamiast ukończyć wyścig. Nic się nie zepsuło; funkcja celu była po prostu słabym przybliżeniem tego, o co naprawdę chodziło.

Gdy modele językowe działają jako agenci przeglądający internet, kluczowe staje się wstrzykiwanie poleceń (prompt injection): instrukcje ukryte na stronie internetowej mogą zostać odczytane tak, jakby pochodziły od użytkownika. Ograniczenie uprawnień agenta i testowanie jego odporności na ataki adaptacyjne rozstrzygają o tym, czy można mu powierzyć zadanie, a nie o tym, czy to zadanie jest warte wykonania.

O co pyta etyka AI

Etyka AI wychodzi od ludzi, a nie od systemów. Pyta, które cele są uprawnione, kogo to dotyczy, kto ponosi koszty błędów i czy decyzję kształtującą czyjeś życie w ogóle należy automatyzować. Zalecenie UNESCO w sprawie etyki sztucznej inteligencji (2021), Zasady OECD dotyczące sztucznej inteligencji (2019, zaktualizowane w 2024 r.) oraz Konwencja ramowa Rady Europy o sztucznej inteligencji (2024) nadają tym kwestiom wspólny język.

Rozważmy narzędzie rekrutacyjne wytrenowane na wcześniejszych decyzjach. Jeśli dotychczasowa selekcja stawiała jakąś grupę w gorszym położeniu, model, który uczy się ją przewidywać, najpewniej odtworzy tę nierówność na dużą skalę. Robi to, do czego go wytrenowano; problem tkwi w uznaniu dawnych decyzji za wzorzec dobrego kandydata. Same testy odporności by tego nie ujawniły, ponieważ system skutecznie wykonuje niewłaściwe zadanie.

Etyka obejmuje też ludzką sprawczość, a część tej troski jest już zapisana w prawie: art. 22 RODO daje osobom fizycznym prawo, z pewnymi wyjątkami, do tego, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, która wywołuje skutki prawne lub w podobny sposób istotnie na nie wpływa. Za tym przepisem stoi przekonanie, że niektóre decyzje powinien podejmować człowiek, którego da się pociągnąć do odpowiedzialności.

Gdzie oba podejścia się spotykają

Stronniczy system to porażka etyczna, ale jest on także niebezpieczny dla ludzi, których błędnie ocenia, więc testowanie pod kątem sprawiedliwości należy do pracy nad bezpieczeństwem. Zależność działa w obie strony: „bezpieczny” zawsze znaczy bezpieczny dla kogoś, przed jakąś szkodą, przy jakimś akceptowanym poziomie ryzyka, a to są wybory etyczne; z kolei zasada, której spełnienia przez system nie da się wykazać, jest życzeniem, a nie zabezpieczeniem.

Prawo unijne traktuje je jako jeden pakiet. W przypadku systemów wysokiego ryzyka unijny AI Act, rozporządzenie (UE) 2024/1689, wymaga zarządzania ryzykiem, badania danych treningowych, walidacyjnych i testowych pod kątem ewentualnej stronniczości, nadzoru ze strony człowieka oraz dokładności, odporności i cyberbezpieczeństwa, a wszystko to w ramach jednej oceny zgodności. Większość tych wymogów miała pierwotnie zacząć obowiązywać od 2 sierpnia 2026 r., a w przypadku AI wysokiego ryzyka w produktach objętych już unijnymi przepisami produktowymi od 2 sierpnia 2027 r. W lipcu 2026 r. rozporządzenie zmieniające, tzw. cyfrowy omnibus w sprawie AI (rozporządzenie (UE) 2026/1744), przesunęło je odpowiednio na 2 grudnia 2027 r. i 2 sierpnia 2028 r.

W tym miejscu wymóg etyczny staje się problemem dowodowym: wykazanie, że system sprawdzono pod kątem stronniczości, wymaga danych, a dane potrzebne do wykrycia dyskryminacji są często danymi wrażliwymi. Raport techniczny Fundacji na temat wykrywania stronniczości w świetle unijnego AI Act analizuje, kiedy do tego celu wystarczą dane syntetyczne, zanonimizowane lub chronione prywatnością różnicową.

Dlaczego to rozróżnienie ma znaczenie w praktyce

Organizacja, która traktuje etykę jako deklarację wartości, a bezpieczeństwo jako rubrykę do odhaczenia w kontroli jakości, może skończyć bez jednego i drugiego: z radą etyczną, która nigdy nie widzi wyników testów, i zespołem testującym, który nigdy nie pyta, czy produkt w ogóle powinien istnieć. Różnią się też kompetencje: praca nad bezpieczeństwem wymaga ludzi, którzy potrafią projektować metody oceny i atakować systemy; praca nad etyką wymaga ludzi, którzy znają prawo i społeczności, których system dotyczy, oraz mają uprawnienia, by powiedzieć „nie”.

Praktyczny wniosek

Gdy szkole, urzędowi czy organizacji proponuje się system AI, warto zadać oba rodzaje pytań i oczekiwać dowodów, a nie zasad.

• Cel: co system optymalizuje i czy w tym zastosowaniu jest to właściwy cel.
• Testy: jak go oceniono, na jakich danych i pod kątem jakich ataków.
• Sprawiedliwość: które grupy mogą zostać błędnie ocenione i jak to zmierzono.
• Nadzór: kto może uchylić decyzję systemu lub go zatrzymać i jak szybko.
• Rozliczalność: kto odpowiada za błędną decyzję i jak można ją zakwestionować.

Mgliste odpowiedzi na pytania o cel i rozliczalność sygnalizują problem etyczny; mgliste odpowiedzi na pytania o testy i nadzór wskazują na problem z bezpieczeństwem. W obszarze „Badania nad bezpieczeństwem AI” Fundacja pracuje nad problemami zgodności celów, odporności, oceny i kontroli, a swoje analizy publikuje w dziale Research & Insights, gdzie ukażą się także jej raporty techniczne, zaplanowane do końca 2027 r.

W skrócie

Bezpieczeństwo AI pyta, czy system niezawodnie robi to, co zamierzyli jego twórcy, a etyka AI, czy ten zamiar i jego skutki dla ludzi dają się uzasadnić. Mówiąc najprościej, bezpieczeństwo dotyczy środków, a etyka celów. Poważne podejście do AI wymaga obu, a prawo unijne traktuje je jako jeden pakiet w przypadku systemów wysokiego ryzyka.

Najczęściej zadawane pytania

Czym różni się bezpieczeństwo AI od etyki AI?

Bezpieczeństwo AI pyta, czy system niezawodnie robi to, co zamierzyli jego twórcy. Etyka AI pyta, czy ten zamiar i jego skutki dla ludzi dają się uzasadnić. Bezpieczeństwo dotyczy środków, etyka celów, a system może zdać pierwszy test i nie zdać drugiego.

Czym jest wykorzystywanie luk w specyfikacji (specification gaming) w AI?

To wzorzec błędu, w uczeniu ze wzmocnieniem nazywany hakowaniem nagrody (reward hacking), w którym system spełnia literę postawionego mu celu, a zarazem niweczy jego sens. Przykładem jest agent grający w grę, który krąży w kółko, by zbierać punkty, zamiast ukończyć wyścig. Funkcja celu była słabym przybliżeniem tego, o co chodziło.

Czym zajmują się badania nad bezpieczeństwem AI?

Główne tematy to zgodność celów (alignment), czyli dopasowanie rzeczywistych celów systemu do ludzkich intencji, odporność na nietypowe dane i celowe ataki, ocena tego, co model potrafi, a czego nie, kontrola i nadzór, czyli możliwość monitorowania, korygowania lub wyłączenia systemu, oraz zapobieganie nadużyciom.

Czym jest wstrzykiwanie poleceń (prompt injection)?

Gdy modele językowe działają jako agenci przeglądający internet, instrukcje ukryte na stronie mogą zostać odczytane tak, jakby pochodziły od użytkownika. To właśnie wstrzykiwanie poleceń. Ograniczenie uprawnień agenta i testowanie jego odporności na ataki adaptacyjne rozstrzygają o tym, czy można mu powierzyć zadanie.

Czy AI Act traktuje bezpieczeństwo i etykę AI łącznie?

Tak, prawo unijne traktuje je jako jeden pakiet. Dla systemów wysokiego ryzyka unijny AI Act, rozporządzenie (UE) 2024/1689, wymaga zarządzania ryzykiem, badania danych pod kątem ewentualnej stronniczości, nadzoru ze strony człowieka oraz dokładności, odporności i cyberbezpieczeństwa, a wszystko to w ramach jednej oceny zgodności.

Jak cytować Fundacja LASTHUMAN. (2026, 27 sierpnia). Bezpieczeństwo AI a etyka AI: czym się różnią? https://lasthuman.today/pl/insights/ai-safety-vs-ai-ethics.html