AI skoncentrowana na człowieku: zasady i wyzwania

AI skoncentrowana na człowieku wychodzi od prostego założenia: technologia powinna rozszerzać ludzki osąd i sprawczość, a nie po cichu je zastępować. Przełożenie tego założenia na działające systemy oznacza konieczność zmierzenia się z realnymi kompromisami między automatyzacją a kontrolą, wygodą a autonomią.

Co oznacza AI skoncentrowana na człowieku

AI skoncentrowana na człowieku to podejście do projektowania, wdrażania i zarządzania systemami AI, w którym podstawową miarą sukcesu są ludzie: ci, którzy z tych systemów korzystają, i ci, których one dotyczą. Dokładność, szybkość i koszt nadal mają znaczenie, ale ocenia się je przez pryzmat tego, czy ludzie są w efekcie lepiej poinformowani, mają większe możliwości i nadal to oni decydują. Idea ta czerpie z badań nad interakcją człowieka z komputerem, z dostępności i z etyki, a obecna jest też w dokumentach międzynarodowych: Zasady OECD dotyczące sztucznej inteligencji wzywają do tworzenia AI, która szanuje prawa człowieka i wartości demokratyczne, a Zalecenie UNESCO w sprawie etyki sztucznej inteligencji wymienia wśród swoich zasad nadzór i decyzyjność człowieka.

Pokrewnym pojęciem jest inteligencja rozszerzona (augmented intelligence): AI używana jako narzędzie, które wzmacnia to, co człowiek potrafi dostrzec, zapamiętać lub obliczyć, a odpowiedzialność za wynik nadal spoczywa na człowieku. Sugestia diagnostyczna, którą lekarz ocenia, to rozszerzenie; werdykt, którego nikt nie czyta, to zastąpienie, niezależnie od tego, jak nazywa go dostawca.

Zasady, które wciąż powracają

W większości poważnych ujęć AI skoncentrowanej na człowieku powraca kilka tych samych postulatów.

• Sprawczość: ludzie mogą zrozumieć, zakwestionować i uchylić to, co proponuje system, albo w ogóle z niego zrezygnować.
• Przejrzystość na miarę: wyjaśnienia są dopasowane do decyzji i do odbiorcy, a nie do wewnętrznej budowy modelu.
• Godność i zgoda: bez manipulacji, bez zwodniczych interfejsów (dark patterns) i z takim wykorzystaniem danych, które ludzie rzeczywiście rozumieją.
• Inkluzywność: system działa niezależnie od wieku, możliwości, języka i kultury, a nie tylko w przypadku większości.
• Rozliczalność: za skutki, także te, na które wpłynął system, odpowiada konkretna osoba lub konkretny organ.

Żadna z tych zasad nie przychodzi za darmo; każda wymaga dodatkowej pracy projektowej i ogranicza to, co system może robić samodzielnie.

Nadzór ze strony człowieka jest trudniejszy, niż się wydaje

Prawo i regulacje często opierają się na tym, że gdzieś w procesie jest człowiek. Art. 22 RODO ogranicza decyzje opierające się wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują skutki prawne lub w podobny sposób istotnie wpływają na osobę, a tam, gdzie takie decyzje są dopuszczalne, wymaga zabezpieczeń, w tym prawa do uzyskania interwencji ludzkiej i do zakwestionowania decyzji. Unijny AI Act, czyli rozporządzenie (UE) 2024/1689, stanowi w art. 14, że systemy AI wysokiego ryzyka muszą być zaprojektowane tak, aby osoby fizyczne mogły skutecznie sprawować nad nimi nadzór, i wprost wymaga, aby osoby nadzorujące mogły zachować świadomość błędu automatyzacji, czyli skłonności do automatycznego polegania na wyniku systemu. Większość obowiązków dotyczących systemów wysokiego ryzyka miała pierwotnie zacząć obowiązywać od 2 sierpnia 2026 r.; cyfrowy omnibus w sprawie AI (rozporządzenie (UE) 2026/1744), który wszedł w życie 27 lipca 2026 r., przesunął je na 2 grudnia 2027 r., a w przypadku AI wysokiego ryzyka w produktach objętych odrębnymi przepisami na 2 sierpnia 2028 r.

Trudność polega na tym, że nadzór jest zadaniem poznawczym wykonywanym pod presją. Pracownik prowadzący sprawę, który widzi ocenę ryzyka, zanim przeczyta akta, ma skłonność do zakotwiczenia się na tej ocenie. Osoba weryfikująca, która zatwierdza setki sugestii dziennie, niemal wszystkie trafne, traci nawyk sprawdzania tych nielicznych, które są błędne. Ktoś, kto ma przejąć kontrolę tylko wtedy, gdy system zawiedzie, dostaje zadanie w najgorszym możliwym momencie, mając najmniej kontekstu. Nieużywane umiejętności zanikają, więc osoba, która miała wychwytywać błędy, coraz słabiej je dostrzega. Weryfikacja polegająca na kliknięciu „zatwierdź” może czynić zadość literze przepisu i w ogóle nie służyć jego celowi.

Rzeczywisty nadzór trzeba zatem zaprojektować jako proces pracy, a nie zadeklarować jako politykę: czas na weryfikację, informacje umożliwiające prawdziwą ocenę, uprawnienie do odstąpienia od sugestii systemu bez konsekwencji oraz regularnie odświeżane szkolenia.

Kompromisy, których nie da się usunąć projektowaniem

Automatyzacja a kontrola. Każdy krok potwierdzania kosztuje czas, a monity pojawiające się zbyt często są po prostu ignorowane. Gdy punktów kontrolnych jest zbyt mało, obecność człowieka staje się czysto formalna; gdy jest ich zbyt wiele, zamienia się w szum. Rozwiązaniem jest skupienie ludzkiej uwagi tam, gdzie błędy są kosztowne lub trudne do odwrócenia.

Wygoda a autonomia. Ustawienia domyślne, rankingi i rekomendacje kształtują zachowania, nawet gdy nikt nikogo do niczego nie zmusza. Strumień treści zoptymalizowany pod kątem zaangażowania i strumień zoptymalizowany pod kątem celów, które dana osoba sama zadeklarowała, mogą wyglądać identycznie, a całkowicie różnić się tym, czyjemu interesowi służą. Podejście skoncentrowane na człowieku zakłada, że człowiek powinien móc zobaczyć cel, który realizuje system, i ten cel zmienić.

Standaryzacja a inkluzywność. Systemy uczą się na danych, które otrzymują, a gdy niektóre grupy są w nich niedostatecznie reprezentowane, błędy skupiają się zwykle właśnie na nich: rozpoznawanie mowy, które gorzej radzi sobie z niektórymi akcentami, albo interfejsy, z których nie da się korzystać bez wzroku lub precyzyjnej motoryki rąk. Wykrywanie takich dysproporcji zwykle wymaga danych o tych właśnie cechach, co samo w sobie rodzi problemy z prywatnością; raport techniczny Fundacji o wykrywaniu stronniczości na gruncie unijnego AI Act analizuje, kiedy wystarczą dane syntetyczne, zanonimizowane lub chronione prywatnością różnicową.

Jak to wygląda w praktyce

Wyobraźmy sobie szpitalne narzędzie do triażu. Jeśli jego sugestia pojawia się, zanim lekarz wyrobi sobie wstępną opinię, zwykle zakotwicza ocenę; jeśli pojawia się później, wzbogaca ocenę i można ją z nią porównać. W modelu nic się nie zmieniło, zmieniła się tylko kolejność, w jakiej docierają informacje. Chatbot, który informuje, że jest maszyną, i na życzenie przekazuje rozmowę człowiekowi, szanuje sprawczość; w tę samą stronę wskazują przepisy unijnego AI Act dotyczące przejrzystości, które wymagają informowania ludzi, że mają do czynienia z systemem AI, chyba że jest to oczywiste.

Techniki te są mało efektowne: tarcie tam, gdzie błędy są kosztowne, odwracalne działania, logi pozwalające odtworzyć przebieg decyzji, kanały zgłaszania uwag, które ktoś naprawdę czyta, oraz testy z prawdziwymi użytkownikami, w tym z osobami z niepełnosprawnościami, jeszcze przed wdrożeniem.

Praktyczny wniosek

Każdy, kto ocenia system AI, jako nabywca, nauczyciel, urzędnik czy obywatel, może zadać cztery pytania: kto może uchylić jego decyzję, na podstawie jakich informacji, ile ma na to czasu i kto ponosi odpowiedzialność, gdy system się myli. Jasne odpowiedzi to dobry znak; mgliste sugerują, że „człowiek w pętli” jest tylko dekoracją. W obszarze „Projektowanie skoncentrowane na człowieku” Fundacja planuje badania nad nadzorem ze strony człowieka, zaufaniem i projektowaniem inkluzywnym, a ich wyniki opublikuje w dziale Research & Insights.

W skrócie

AI skoncentrowana na człowieku to podejście do projektowania, wdrażania i zarządzania systemami AI, w którym podstawową miarą sukcesu są ludzie: ci, którzy z nich korzystają, i ci, których one dotyczą. Ma rozszerzać ludzki osąd i sprawczość, a nie je zastępować, co oznacza konieczność zmierzenia się z kompromisami między automatyzacją a kontrolą oraz między wygodą a autonomią.

Najczęściej zadawane pytania

Czym jest inteligencja rozszerzona?

Inteligencja rozszerzona (augmented intelligence) to pojęcie pokrewne AI skoncentrowanej na człowieku: AI jako narzędzie, które wzmacnia to, co człowiek potrafi dostrzec, zapamiętać lub obliczyć, a odpowiedzialność za wynik nadal spoczywa na człowieku. Sugestia diagnostyczna, którą lekarz ocenia, to rozszerzenie; werdykt, którego nikt nie czyta, to zastąpienie.

Jakie zasady wyznaczają AI skoncentrowaną na człowieku?

Powraca pięć postulatów: sprawczość (ludzie mogą zrozumieć, zakwestionować i uchylić decyzję systemu albo z niego zrezygnować), przejrzystość na miarę, godność i zgoda, inkluzywność oraz rozliczalność (za skutki odpowiada konkretna osoba lub organ). Żadna nie przychodzi za darmo: każda wymaga dodatkowej pracy projektowej i ogranicza samodzielność systemu.

Dlaczego nadzór człowieka nad AI jest taki trudny?

Nadzór jest zadaniem poznawczym wykonywanym pod presją. Pracownik prowadzący sprawę, który widzi ocenę ryzyka, zanim przeczyta akta, ma skłonność do zakotwiczenia się na niej, a osoba zatwierdzająca setki sugestii dziennie traci nawyk sprawdzania. Do tego nieużywane umiejętności zanikają.

Czego wymaga AI Act w kwestii nadzoru ze strony człowieka?

Art. 14 AI Act (rozporządzenie (UE) 2024/1689) stanowi, że systemy AI wysokiego ryzyka muszą być zaprojektowane tak, aby osoby fizyczne mogły skutecznie sprawować nad nimi nadzór. Wprost wymaga też, aby osoby nadzorujące mogły zachować świadomość błędu automatyzacji, czyli skłonności do automatycznego polegania na wyniku systemu. Większość obowiązków dla systemów wysokiego ryzyka przesunięto na 2 grudnia 2027 r.

Jak sprawdzić, czy system AI ma rzeczywisty nadzór ze strony człowieka?

Warto zadać cztery pytania: kto może uchylić decyzję systemu, na podstawie jakich informacji, ile ma na to czasu i kto ponosi odpowiedzialność, gdy system się myli. Jasne odpowiedzi to dobry znak, a mgliste sugerują, że „człowiek w pętli” jest tylko dekoracją.

Jak cytować Fundacja LASTHUMAN. (2026, 30 września). AI skoncentrowana na człowieku: zasady i wyzwania. https://lasthuman.today/pl/insights/human-centered-ai.html