Menschenzentrierte KI: Prinzipien und Herausforderungen

Menschenzentrierte KI beginnt mit einem einfachen Grundsatz: Technologie soll menschliches Urteilsvermögen und menschliche Handlungsfähigkeit erweitern, nicht stillschweigend ersetzen. Diesen Grundsatz in funktionierende Systeme zu übersetzen heißt, sich echten Zielkonflikten zu stellen: zwischen Automatisierung und Kontrolle, zwischen Bequemlichkeit und Autonomie.

Was menschenzentrierte KI bedeutet

Menschenzentrierte KI ist ein Ansatz für die Gestaltung, den Einsatz und die Governance von KI-Systemen, der die Menschen, die sie nutzen, und diejenigen, die von ihnen betroffen sind, zum wichtigsten Maßstab des Erfolgs macht. Genauigkeit, Geschwindigkeit und Kosten zählen nach wie vor, aber sie werden daran gemessen, ob die Menschen am Ende besser informiert sind, mehr können und weiterhin die Kontrolle behalten. Die Idee schöpft aus der Mensch-Computer-Interaktion, der Barrierefreiheit und der Ethik, und sie findet sich in internationalen Rahmenwerken: Die KI-Grundsätze der OECD fordern KI, die Menschenrechte und demokratische Werte achtet, und die UNESCO-Empfehlung zur Ethik der künstlichen Intelligenz zählt menschliche Aufsicht und Entscheidungshoheit zu ihren Prinzipien.

Ein verwandter Begriff ist die erweiterte Intelligenz (Augmented Intelligence): KI als Instrument, das verstärkt, was ein Mensch wahrnehmen, sich merken oder berechnen kann, während der Mensch die Verantwortung für das Ergebnis behält. Ein Diagnosevorschlag, den eine Ärztin oder ein Arzt prüft, ist Erweiterung; ein Urteil, das niemand liest, ist Ersetzung, wie auch immer der Anbieter es nennt.

Prinzipien, die immer wiederkehren

Eine Handvoll Grundsätze kehrt in den meisten ernsthaften Darstellungen menschenzentrierter KI immer wieder.

• Handlungsfähigkeit: Menschen können die Vorschläge des Systems verstehen, hinterfragen, sich über sie hinwegsetzen oder ganz auf sie verzichten.
• Angemessene Transparenz: Erklärungen richten sich nach der Entscheidung und den Adressaten, nicht nach dem Innenleben des Modells.
• Würde und Einwilligung: keine Manipulation, keine Dark Patterns und eine Datennutzung, die Menschen tatsächlich verstehen.
• Inklusion: Das System funktioniert unabhängig von Alter, Fähigkeiten, Sprache und Kultur, nicht nur für die Mehrheit.
• Rechenschaft: Eine benannte Person oder Stelle verantwortet die Ergebnisse, auch solche, die das System mitgeprägt hat.

Keines dieser Prinzipien ist umsonst zu haben; jedes bedeutet zusätzliche Gestaltungsarbeit und begrenzt, was das System eigenständig tun darf.

Menschliche Aufsicht ist schwieriger, als es klingt

Gesetze und Vorschriften verlassen sich oft darauf, dass irgendwo im Prozess ein Mensch eingebunden ist. Artikel 22 der DSGVO beschränkt Entscheidungen, die ausschließlich auf einer automatisierten Verarbeitung beruhen und rechtliche Wirkung entfalten oder die Betroffenen in ähnlicher Weise erheblich beeinträchtigen; wo solche Entscheidungen zulässig sind, verlangt er Schutzmaßnahmen, darunter das Recht, das Eingreifen einer Person zu erwirken und die Entscheidung anzufechten. Der EU AI Act, die KI-Verordnung (Verordnung (EU) 2024/1689), legt in Artikel 14 fest, dass Hochrisiko-KI-Systeme so konzipiert sein müssen, dass natürliche Personen sie wirksam beaufsichtigen können, und er verlangt ausdrücklich, dass die Aufsichtspersonen in die Lage versetzt werden, sich des Automatisierungsbias bewusst zu bleiben, also der Neigung, sich automatisch auf die Ausgabe eines Systems zu verlassen. Die meisten Pflichten für Hochrisiko-KI-Systeme sollten ursprünglich ab dem 2. August 2026 gelten; der digitale Omnibus zu KI (Verordnung (EU) 2026/1744), der seit dem 27. Juli 2026 in Kraft ist, verschob sie auf den 2. Dezember 2027 und für Hochrisiko-KI in regulierten Produkten auf den 2. August 2028.

Die Schwierigkeit besteht darin, dass Aufsicht eine kognitive Aufgabe ist, die unter Druck ausgeführt wird. Wer in der Sachbearbeitung einen Risikowert sieht, bevor die Akte gelesen ist, macht ihn tendenziell zum Anker des eigenen Urteils. Wer täglich Hunderte Vorschläge bestätigt, fast alle davon richtig, verliert die Gewohnheit, den seltenen falschen zu prüfen. Wer nur dann übernehmen soll, wenn das System versagt, erhält die Aufgabe im denkbar ungünstigsten Moment und mit dem wenigsten Kontext. Ungenutzte Fähigkeiten verkümmern, sodass die Person, die Fehler abfangen soll, sie immer schlechter erkennt. Eine Prüfung, die aus dem Klick auf „Genehmigen“ besteht, mag dem Buchstaben einer Regel genügen, aber nicht ihrem Zweck.

Echte Aufsicht muss deshalb als Arbeitsablauf gestaltet werden, nicht als Richtlinie verkündet: Zeit zum Prüfen, Informationen, die ein wirkliches Urteil erlauben, die Befugnis, ohne Nachteile abzuweichen, und regelmäßig aufgefrischte Schulung.

Zielkonflikte, die sich durch Design nicht beseitigen lassen

Automatisierung gegen Kontrolle. Jeder Bestätigungsschritt kostet Zeit, und Rückfragen, die zu häufig kommen, werden einfach weggeklickt. Zu wenige Kontrollpunkte, und die menschliche Präsenz wird nominell; zu viele, und sie wird zum Rauschen. Die Antwort besteht darin, die menschliche Aufmerksamkeit dort zu bündeln, wo Fehler teuer oder schwer rückgängig zu machen sind.

Bequemlichkeit gegen Autonomie. Voreinstellungen, Rankings und Empfehlungen prägen das Verhalten, auch wenn niemand zu etwas gezwungen wird. Ein Feed, der auf Engagement optimiert ist, und einer, der auf die erklärten Ziele einer Person optimiert ist, können identisch aussehen und sich völlig darin unterscheiden, wessen Interessen sie dienen. Die menschenzentrierte Position lautet: Die Person sollte das Ziel, das das System verfolgt, sehen und ändern können.

Standardisierung gegen Inklusion. Systeme lernen aus den Daten, die man ihnen gibt, und wenn manche Gruppen unterrepräsentiert sind, konzentrieren sich die Fehler tendenziell auf sie: Spracherkennung, die mit bestimmten Akzenten Mühe hat, oder Benutzeroberflächen, die ohne Sehvermögen oder Feinmotorik nicht bedienbar sind. Solche Ungleichheiten aufzudecken erfordert in der Regel Daten über genau die betroffenen Merkmale, was eigene Datenschutzprobleme aufwirft; der technische Bericht der Stiftung zur Bias-Erkennung nach dem EU AI Act untersucht, wann synthetische, anonymisierte oder mit Differential Privacy geschützte Daten ausreichen.

Wie das in der Praxis aussieht

Man stelle sich ein Triage-Werkzeug in einem Krankenhaus vor. Erscheint sein Vorschlag, bevor sich die Ärztin oder der Arzt ein erstes Bild gemacht hat, wird er tendenziell zum Anker der Einschätzung; erscheint er danach, fließt er in die Einschätzung ein und lässt sich mit ihr vergleichen. Am Modell hat sich nichts geändert, nur die Reihenfolge, in der die Informationen eintreffen. Ein Chatbot, der sagt, dass er eine Maschine ist, und auf Wunsch an einen Menschen übergibt, achtet die Handlungsfähigkeit; die Transparenzregeln des EU AI Act weisen in dieselbe Richtung: Sie verlangen, dass Menschen darüber informiert werden, wenn sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist.

Die Techniken sind unspektakulär: Reibung dort, wo Fehler teuer sind, umkehrbare Aktionen, Protokolle, die Entscheidungen nachvollziehbar machen, Rückmeldekanäle, die jemand liest, und Tests mit echten Nutzerinnen und Nutzern, einschließlich Menschen mit Behinderungen, vor dem Einsatz.

Ein praktisches Fazit

Wer ein KI-System bewertet, ob im Einkauf, als Lehrkraft, in der Verwaltung oder als Bürgerin oder Bürger, kann vier Fragen stellen: Wer kann sich darüber hinwegsetzen, mit welchen Informationen, mit wie viel Zeit, und wer trägt die Verantwortung, wenn es sich irrt? Klare Antworten sind ein gutes Zeichen; vage Antworten deuten darauf hin, dass der Mensch in der Entscheidungskette, der Human in the Loop, nur Dekoration ist. Der Bereich Menschenzentriertes Design der Stiftung plant Studien zu menschlicher Aufsicht, Vertrauen und inklusivem Design und wird sie in der Rubrik Research & Insights veröffentlichen.

Kurz gesagt

Menschenzentrierte KI ist ein Ansatz für die Gestaltung, den Einsatz und die Governance von KI-Systemen, der die Menschen, die sie nutzen, und diejenigen, die von ihnen betroffen sind, zum wichtigsten Maßstab des Erfolgs macht. Sie soll menschliches Urteilsvermögen und menschliche Handlungsfähigkeit erweitern, nicht ersetzen. Das heißt, sich Zielkonflikten zu stellen: zwischen Automatisierung und Kontrolle sowie zwischen Bequemlichkeit und Autonomie.

Häufige Fragen

Was ist erweiterte Intelligenz (Augmented Intelligence)?

Erweiterte Intelligenz ist ein mit menschenzentrierter KI verwandter Begriff: KI als Instrument, das verstärkt, was ein Mensch wahrnehmen, sich merken oder berechnen kann, während der Mensch die Verantwortung für das Ergebnis behält. Ein Diagnosevorschlag, den eine Ärztin oder ein Arzt prüft, ist Erweiterung; ein Urteil, das niemand liest, ist Ersetzung.

Welche Prinzipien kennzeichnen menschenzentrierte KI?

Fünf Grundsätze kehren immer wieder: Handlungsfähigkeit (Menschen können verstehen, hinterfragen, sich hinwegsetzen und verzichten), Transparenz, die zur Entscheidung und zu den Adressaten passt, Würde und Einwilligung, Inklusion über Alter, Fähigkeiten, Sprache und Kultur hinweg sowie Rechenschaft (eine benannte Person oder Stelle verantwortet die Ergebnisse). Keiner davon ist umsonst: Jeder bedeutet Gestaltungsaufwand und begrenzt, was das System allein tun darf.

Warum ist menschliche Aufsicht über KI so schwierig?

Menschliche Aufsicht über KI ist schwierig, weil sie eine kognitive Aufgabe unter Druck ist. Eine Sachbearbeiterin, die einen Risikowert sieht, bevor sie die Akte liest, orientiert sich tendenziell an ihm, wer täglich Hunderte meist richtiger Vorschläge bestätigt, verliert die Gewohnheit zu prüfen, und ungenutzte Fähigkeiten verkümmern.

Was verlangt der EU AI Act für die menschliche Aufsicht?

Artikel 14 des EU AI Act (Verordnung (EU) 2024/1689) legt fest, dass Hochrisiko-KI-Systeme so gestaltet sein müssen, dass natürliche Personen sie wirksam beaufsichtigen können. Er verlangt zudem ausdrücklich, dass die Aufsichtspersonen in die Lage versetzt werden, sich des Automatisierungsbias bewusst zu bleiben, also der Neigung, sich automatisch auf die Ausgabe eines Systems zu verlassen. Die meisten Hochrisiko-Pflichten wurden auf den 2. Dezember 2027 verschoben.

Woran erkennt man, ob ein KI-System eine echte menschliche Aufsicht hat?

Man stellt vier Fragen: Wer kann das System übersteuern, mit welchen Informationen, in wie viel Zeit, und wer haftet, wenn es falsch liegt? Klare Antworten sind ein gutes Zeichen, vage Antworten deuten darauf hin, dass der Mensch in der Schleife nur Dekoration ist.

Zitiervorschlag LASTHUMAN-Stiftung. (2026, 30. September). Menschenzentrierte KI: Prinzipien und Herausforderungen. https://lasthuman.today/de/insights/human-centered-ai.html