Was ist verantwortungsvolle KI?

Verantwortungsvolle KI ist die Praxis, Systeme der künstlichen Intelligenz so zu entwickeln und einzusetzen, dass sie fair und transparent sind, dass jemand für sie die Verantwortung trägt und dass sie die Menschenrechte achten. Sie überführt Ethik von abstrakten Grundsätzen in konkrete Entscheidungen der Entwicklung und der Governance: in das, was vor, während und nach dem Einsatz eines Systems entschieden wird.

Eine Arbeitsdefinition

Verantwortungsvolle KI ist kein Produktmerkmal, sondern eine Arbeitsweise, die die gesellschaftlichen Folgen eines KI-Systems als Teil der technischen Aufgabe behandelt und nicht als nachträgliche Ergänzung. Ihre Werte, die auch unter den Bezeichnungen „vertrauenswürdige KI“ und „ethische KI“ zu finden sind, werden weithin geteilt: Die KI-Grundsätze der OECD (2019, aktualisiert 2024) und das Rahmenübereinkommen des Europarats über künstliche Intelligenz (2024) nennen beide, mit unterschiedlichen Worten, Fairness, Transparenz, Verantwortlichkeit, menschliche Aufsicht, Sicherheit und Menschenrechte.

Von einer Werteerklärung unterscheidet sie der Schritt ins Operative: welche Daten erhoben werden, welche Tests laufen, welche Ergebnisse als Fehlschlag gelten, wer die Freigabe erteilt. Verantwortungsvolle KI heißt, diese Fragen zu beantworten, die Antworten zu dokumentieren und sich daran messen zu lassen.

Fairness ist eine Reihe von Entscheidungen, keine Eigenschaft

Die meisten heute eingesetzten KI-Systeme lernen Muster aus Daten, und Daten halten die Welt fest, wie sie gewesen ist, einschließlich ihrer Ungleichheiten. Ein Modell, das Bewerbungen vorsortiert und mit früheren Einstellungsentscheidungen trainiert wurde, wird die Präferenzen, die in diesen Entscheidungen steckten, wahrscheinlich reproduzieren. Niemand muss Diskriminierung beabsichtigen; der Mechanismus ist statistisch, die Folge gesellschaftlich.

Fairness ist zudem schwer zu definieren. Es gibt mehrere mathematische Definitionen, etwa gleiche Fehlerquoten über Gruppen hinweg oder gleiche Anteile günstiger Ergebnisse, und sie lassen sich, von Sonderfällen abgesehen, nicht alle zugleich erfüllen, wenn sich die Gruppen in den zugrunde liegenden Daten unterscheiden. Die Wahl zwischen ihnen ist ein Werturteil, keine technische Entscheidung, und die Wahl und ihre Begründung sollten festgehalten werden.

Tests auf Bias bringen einen Zielkonflikt mit dem Datenschutz mit sich: Um zu messen, ob Gruppen unterschiedlich behandelt werden, muss man in der Regel die Gruppenzugehörigkeit jeder Person kennen, und das sind oft sensible Informationen. Eine Antwort darauf sind Tests mit synthetischen, anonymisierten oder durch Differential Privacy geschützten Daten; offen ist, wann solche Daten ausreichen, um die Probleme sichtbar zu machen, auf die es ankommt. Der technische Bericht der Stiftung untersucht diese Frage mit simulierten und echten Daten.

Transparenz heißt Nachweise, nicht Behauptungen

Transparenz hat zwei Ebenen. Die erste bezieht sich auf die Betroffenen: ob sie wissen, dass sie es mit KI zu tun haben, ob eine Entscheidung über sie automatisiert getroffen wurde und ob sie aussagekräftige Informationen über die involvierte Logik erhalten können. Artikel 22 der DSGVO gibt Einzelpersonen bereits Rechte in Bezug auf Entscheidungen, die ausschließlich auf einer automatisierten Verarbeitung beruhen und rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen.

Die zweite Ebene, die Aufsicht, verlangt Dokumentation: Trainingsdaten, Methode und Population der Evaluation, Ergebnisse und bekannte Grenzen. Die Aussage, ein System sei „auf Bias getestet“ worden, ist eine Behauptung; ein Evaluationsprotokoll mit Ergebnissen, die jemand anderes reproduzieren könnte, ist ein Nachweis.

Erklärbarkeit, also die Angabe, warum ein System ein bestimmtes Ergebnis geliefert hat, bringt einen eigenen Zielkonflikt mit sich. Einfachere Modelle lassen sich leichter erklären, können aber schlechter abschneiden; komplexe Modelle können genauer sein, bieten aber nur ungefähre, nachträgliche Erklärungen. Wie viel Erklärung genug ist, hängt davon ab, was auf dem Spiel steht; eine Filmempfehlung und eine Entscheidung über Sozialleistungen sind nicht dasselbe.

Verantwortlichkeit braucht eine Person, die Rede und Antwort stehen kann

Verantwortlichkeit bedeutet, dass eine identifizierbare Organisation und identifizierbare Personen in ihr für die Ergebnisse eines Systems einstehen und dass Betroffene eine Entscheidung anfechten und Abhilfe erlangen können. Sie lässt sich nicht an die Software delegieren. ISO/IEC 42001 (2023), eine Managementsystemnorm für KI, und das NIST AI Risk Management Framework 1.0 (Januar 2023) machen das greifbar: festgelegte Rollen, dokumentierte Risikobewertung und Aufzeichnungen über Entscheidungen, damit eine Erklärung nicht bei „der Algorithmus hat entschieden“ endet.

Menschliche Aufsicht wird oft als die Antwort auf die Frage der Verantwortlichkeit präsentiert, und sie wird leicht missverstanden. Eine Person, die jede Empfehlung innerhalb von Sekunden bestätigt, ohne die Zeit, die Informationen oder die Befugnis zum Widerspruch zu haben, sorgt für den Anschein von Aufsicht, nicht für ihre Substanz. Ein neuerer Fall ist ein KI-Modell, das die Ausgaben eines anderen beurteilt und Freigabeentscheidungen mitbestimmt. Ein solcher Richter kann nützlich sein, aber er übernimmt keine Verantwortung, und seine blinden Flecken verdienen dieselbe Prüfung wie das System, das er bewertet.

Vom Grundsatz zum Lebenszyklus

Der rote Faden ist der Zeitpunkt: Verantwortungsvolle KI ist eine Reihe von Fragen, die in jeder Lebensphase eines Systems gestellt werden, und auf die frühesten lässt sich meist am günstigsten reagieren.

• Vor der Entwicklung: ob KI überhaupt das richtige Werkzeug ist und wer das Risiko trägt, wenn sie versagt.
• Vor der Freigabe: was getestet wurde, an wem, nach welcher Definition von Fairness und was als Fehlschlag gilt.
• Nach der Inbetriebnahme: wie die Leistung überwacht wird, wer Beschwerden bearbeitet und wann das System zurückgezogen wird.

Die KI-Verordnung der EU (EU AI Act, Verordnung (EU) 2024/1689) ist am 1. August 2024 in Kraft getreten und gilt stufenweise: die meisten verbotenen Praktiken ab dem 2. Februar 2025 und KI-Modelle mit allgemeinem Verwendungszweck ab dem 2. August 2025. Die meisten Pflichten für Hochrisiko-KI sollten ursprünglich ab dem 2. August 2026 gelten, die Pflichten für Hochrisiko-KI, die in Produkte eingebettet ist, für die bereits EU-Produktvorschriften gelten, ab dem 2. August 2027; der digitale Omnibus zu KI (Verordnung (EU) 2026/1744), der seit dem 27. Juli 2026 in Kraft ist, verschob sie auf den 2. Dezember 2027 beziehungsweise den 2. August 2028. Das Gesetz setzt den Mindeststandard; verantwortungsvolle KI ist das, was eine Organisation darüber hinaus tut, und wie sie zeigt, dass sie es getan hat.

Was sich daraus mitnehmen lässt

Für Lehrkräfte, Beschäftigte von Nichtregierungsorganisationen oder Mitarbeitende der öffentlichen Verwaltung, die bei der Arbeit auf ein KI-System treffen, bringen einige Fragen den Gedanken auf den Punkt: welche Entscheidung das System unterstützt, wer betroffen ist, mit welchen Daten es trainiert wurde, wie und an wem es getestet wurde, an wen man sich wenden kann, wenn etwas schiefgeht, und ob ein Mensch die Entscheidung des Systems aufheben kann. Eine Organisation, die diese Fragen nicht beantworten kann, hat verantwortungsvolle KI noch nicht in die Praxis umgesetzt, was auch immer in ihren Richtlinien steht.

Die Stiftung geht diesen Fragen in Forschung und Publikationen nach, darunter der oben verlinkte technische Bericht zur Bias-Erkennung und die Artikel in dieser Rubrik.

Kurz gesagt

Verantwortungsvolle KI ist die Praxis, Systeme der künstlichen Intelligenz so zu entwickeln und einzusetzen, dass sie fair und transparent sind, dass jemand für sie die Verantwortung trägt und dass sie die Menschenrechte achten. Sie überführt Ethik von abstrakten Grundsätzen in konkrete Entscheidungen der Entwicklung und der Governance: in das, was vor, während und nach dem Einsatz eines Systems entschieden wird, etwa welche Daten erhoben und welche Tests durchgeführt werden.

Häufige Fragen

Was sind die Kernprinzipien verantwortungsvoller KI?

Die KI-Grundsätze der OECD (2019, aktualisiert 2024) und das Rahmenübereinkommen des Europarats über künstliche Intelligenz (2024) nennen beide, mit unterschiedlichen Worten, Fairness, Transparenz, Verantwortlichkeit, menschliche Aufsicht, Sicherheit und Menschenrechte. Dieselben Werte finden sich auch unter den Bezeichnungen „vertrauenswürdige KI“ und „ethische KI“.

Warum ist Fairness bei KI schwer zu definieren?

Es gibt mehrere mathematische Definitionen von Fairness, etwa gleiche Fehlerquoten über Gruppen hinweg oder gleiche Anteile günstiger Ergebnisse. Von Sonderfällen abgesehen lassen sie sich nicht alle zugleich erfüllen, wenn sich die Gruppen in den zugrunde liegenden Daten unterscheiden. Die Wahl zwischen ihnen ist ein Werturteil, keine technische Entscheidung, und die Wahl und ihre Begründung sollten festgehalten werden.

Wie kann ein KI-System verzerrt sein, ohne dass jemand Diskriminierung beabsichtigt?

Die meisten KI-Systeme lernen Muster aus Daten, und Daten halten die Welt fest, wie sie gewesen ist, einschließlich ihrer Ungleichheiten. Ein Modell, das Bewerbungen vorsortiert und mit früheren Einstellungsentscheidungen trainiert wurde, wird die Präferenzen, die in diesen Entscheidungen steckten, wahrscheinlich reproduzieren. Der Mechanismus ist statistisch, die Folge gesellschaftlich.

Was zählt bei KI als echte Transparenz?

Transparenz bei KI bedeutet Nachweise, nicht Behauptungen. Die Aussage, ein System sei „auf Bias getestet“ worden, ist eine Behauptung; ein Evaluationsprotokoll mit Ergebnissen, die jemand anderes reproduzieren könnte, ist ein Nachweis. Für die Aufsicht braucht ein System außerdem eine Dokumentation der Trainingsdaten, der Evaluationsmethode und der Population, der Ergebnisse und der bekannten Grenzen.

Wer ist verantwortlich, wenn ein KI-System falsch entscheidet?

Eine identifizierbare Organisation und identifizierbare Personen in ihr stehen für die Ergebnisse eines KI-Systems ein, und Betroffene können eine Entscheidung anfechten und Abhilfe erlangen. Verantwortlichkeit lässt sich nicht an die Software delegieren. ISO/IEC 42001 (2023) und das NIST AI Risk Management Framework 1.0 machen das konkret durch festgelegte Rollen, dokumentierte Risikobewertung und Aufzeichnungen von Entscheidungen.

Zitiervorschlag LASTHUMAN-Stiftung. (2026, 28. Juli). Was ist verantwortungsvolle KI? https://lasthuman.today/de/insights/what-is-responsible-ai.html