KI-Sicherheit und KI-Ethik: Was ist der Unterschied?

Die Begriffe KI-Sicherheit und KI-Ethik werden oft synonym verwendet, stellen aber unterschiedliche Fragen. Die Sicherheit fragt, ob ein System zuverlässig das tut, was seine Entwicklerinnen und Entwickler beabsichtigen; die Ethik fragt, ob sich diese Absicht und ihre Auswirkungen auf Menschen rechtfertigen lassen. Vereinfacht gesagt geht es bei der Sicherheit um die Mittel, bei der Ethik um die Zwecke, und ein ernsthafter Umgang mit KI braucht beides.

Zwei Fragen, nicht eine

Nehmen wir ein Empfehlungssystem für Inhalte. Die Sicherheitsfrage lautet, ob es das tut, wofür es gebaut wurde, zuverlässig und ohne sich manipulieren zu lassen. Die ethische Frage lautet, ob das, wofür es gebaut wurde, etwa Menschen so lange wie möglich auf einer Plattform zu halten, ein legitimes Ziel ist, und wer den Preis dafür zahlt, wenn es gut funktioniert. Ein System kann den ersten Test bestehen und am zweiten scheitern. Auch das Umgekehrte kommt vor: schöne Grundsätze auf dem Papier und ein Modell, das niemand gegen manipulierte Eingaben getestet hat.

Womit sich die KI-Sicherheit befasst

Systeme, die aus Daten lernen, tun nicht einfach das, was ihre Entwicklerinnen und Entwickler im Sinn hatten; sie tun das, was Zielvorgabe, Daten und Umgebung belohnen. Aus dieser Lücke ergeben sich die Kernthemen der KI-Sicherheit, ergänzt um eines für absichtlich verursachten Schaden.

• Zielausrichtung (Alignment): die tatsächlichen Ziele eines Systems mit menschlichen Absichten in Einklang bringen, auch in Situationen, die niemand festgelegt hat.
• Robustheit: sich bei ungewöhnlichen Eingaben und gegenüber gezielten Angriffen vorhersehbar verhalten.
• Evaluation: messen, was ein Modell kann und was nicht, mit Tests, die es zuvor nicht gesehen hat.
• Kontrolle und Aufsicht: die Möglichkeit behalten, ein System zu überwachen, zu korrigieren oder abzuschalten.
• Missbrauchsprävention: begrenzen, wie sehr ein System jemandem dabei hilft, schweren Schaden anzurichten.

Ein gut dokumentiertes Fehlermuster ist Specification Gaming, im Reinforcement Learning Reward Hacking genannt: Ein System erfüllt den Wortlaut seiner Zielvorgabe und unterläuft dabei ihren Zweck, etwa wenn ein Agent in einem Rennspiel, der für Punkte belohnt wird, immer weiter im Kreis fährt, um sie einzusammeln, statt das Rennen zu beenden. Es lag keine Fehlfunktion vor; die Zielvorgabe war ein schlechter Stellvertreter für das eigentliche Ziel.

Wenn Sprachmodelle als Agenten handeln, die Webseiten aufrufen, rückt Prompt-Injection in den Mittelpunkt: In einer Webseite versteckte Anweisungen können so gelesen werden, als kämen sie von der Nutzerin oder dem Nutzer. Die Berechtigungen des Agenten zu begrenzen und ihn gegen adaptive Angriffe zu testen, entscheidet darüber, ob man ihm seine Aufgabe anvertrauen kann, nicht darüber, ob die Aufgabe sinnvoll ist.

Wonach die KI-Ethik fragt

Die KI-Ethik geht vom Menschen aus, nicht vom System. Sie fragt, welche Ziele legitim sind, wer betroffen ist, wer die Kosten von Fehlern trägt und ob eine Entscheidung, die das Leben eines Menschen prägt, überhaupt automatisiert werden sollte. Die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz (2021), die KI-Grundsätze der OECD (2019, aktualisiert 2024) und das Rahmenübereinkommen des Europarats über Künstliche Intelligenz (2024) geben diesen Anliegen ein gemeinsames Vokabular.

Man denke an ein Werkzeug für die Personalauswahl, das mit früheren Entscheidungen trainiert wurde. Wenn frühere Auswahlentscheidungen eine Gruppe benachteiligt haben, wird ein Modell, das lernt, sie vorherzusagen, diese Benachteiligung wahrscheinlich in großem Maßstab reproduzieren. Es tut das, wofür es trainiert wurde; das Problem liegt darin, frühere Entscheidungen als Maßstab dafür zu behandeln, was eine gute Kandidatin oder einen guten Kandidaten ausmacht. Robustheitstests allein würden das nicht aufdecken, weil das System bei der falschen Aufgabe erfolgreich ist.

Die Ethik umfasst auch die Handlungsfähigkeit des Menschen, und ein Teil dieses Anliegens ist bereits geltendes Recht: Artikel 22 DSGVO gibt betroffenen Personen, mit einigen Ausnahmen, das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Hinter der Regel steht die Wertung, dass manche Entscheidungen einen Menschen verdienen, der zur Verantwortung gezogen werden kann.

Wo sich beide treffen

Ein System mit Bias ist ein ethisches Versagen, aber es ist auch unsicher für die Menschen, die es falsch beurteilt, weshalb Fairness-Tests in die Sicherheitsarbeit gehören. Die Abhängigkeit gilt in beide Richtungen: „sicher“ heißt immer sicher für jemanden, vor einem bestimmten Schaden, bei einem akzeptierten Risikoniveau, und das sind ethische Entscheidungen; ein Grundsatz, dessen Einhaltung sich bei einem System nicht nachweisen lässt, ist ein Wunsch, keine Schutzmaßnahme.

Das EU-Recht behandelt beides als ein Paket. Für Hochrisiko-KI-Systeme verlangt der EU AI Act (Verordnung (EU) 2024/1689) ein Risikomanagement, die Prüfung von Trainings-, Validierungs- und Testdaten auf mögliche Verzerrungen (Bias), menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit, alles innerhalb einer einzigen Konformitätsbewertung. Die meisten dieser Pflichten sollten ursprünglich ab dem 2. August 2026 gelten, für Hochrisiko-KI in Produkten, die bereits unter EU-Produktvorschriften fallen, ab dem 2. August 2027. Im Juli 2026 verschob eine Änderungsverordnung, der digitale Omnibus zu KI (Verordnung (EU) 2026/1744), sie auf den 2. Dezember 2027 beziehungsweise den 2. August 2028.

Hier wird aus einer ethischen Forderung ein Nachweisproblem: Um zu zeigen, dass ein System auf Bias geprüft wurde, braucht es Daten, und die Daten, die zum Erkennen von Diskriminierung nötig sind, sind oft sensibel. Der technische Bericht der Stiftung zur Bias-Erkennung nach dem EU AI Act untersucht, wann synthetische, anonymisierte oder mit Differential Privacy geschützte Daten für diesen Zweck ausreichen.

Warum die Unterscheidung in der Praxis wichtig ist

Eine Organisation, die Ethik als Werteerklärung und Sicherheit als abzuhakenden Punkt in der Qualitätssicherung behandelt, kann am Ende ohne beides dastehen: mit einem Ethikgremium, das nie Testergebnisse sieht, und einem Testteam, das nie fragt, ob es das Produkt überhaupt geben sollte. Auch die Fähigkeiten unterscheiden sich: Sicherheitsarbeit braucht Menschen, die Evaluationen entwerfen und Systeme angreifen können; Ethikarbeit braucht Menschen, die das Recht und die betroffenen Gemeinschaften kennen und die Befugnis haben, Nein zu sagen.

Fazit für die Praxis

Wenn ein KI-System für eine Schule, eine Behörde oder eine Organisation vorgeschlagen wird, stellen Sie beide Arten von Fragen und erwarten Sie Nachweise statt Grundsätze.

• Zweck: was das System optimiert und ob das hier das richtige Ziel ist.
• Tests: wie es evaluiert wurde, mit welchen Daten und gegen welche Angriffe.
• Fairness: welche Gruppen falsch beurteilt werden könnten und wie das gemessen wurde.
• Aufsicht: wer Entscheidungen des Systems aufheben oder es anhalten kann und wie schnell.
• Rechenschaft: wer für eine falsche Entscheidung geradesteht und wie sie angefochten werden kann.

Vage Antworten zu Zweck und Rechenschaft deuten auf ein ethisches Problem hin; vage Antworten zu Tests und Aufsicht auf ein Sicherheitsproblem. Der Bereich KI-Sicherheitsforschung der Stiftung arbeitet an Fragen der Zielausrichtung, Robustheit, Evaluation und Kontrolle und veröffentlicht seine Analysen in der Rubrik Research & Insights, wo auch seine bis 2027 geplanten technischen Berichte erscheinen werden.

Kurz gesagt

KI-Sicherheit fragt, ob ein System zuverlässig das tut, was seine Entwickler beabsichtigen, KI-Ethik fragt, ob sich diese Absicht und ihre Auswirkungen auf Menschen rechtfertigen lassen. Vereinfacht gesagt geht es bei der Sicherheit um die Mittel, bei der Ethik um die Zwecke. Ein ernsthafter Umgang mit KI braucht beides, und das EU-Recht behandelt beides bei Hochrisiko-Systemen als ein Paket.

Häufige Fragen

Was ist der Unterschied zwischen KI-Sicherheit und KI-Ethik?

KI-Sicherheit fragt, ob ein System zuverlässig das tut, was seine Entwicklerinnen und Entwickler beabsichtigen. KI-Ethik fragt, ob sich diese Absicht und ihre Auswirkungen auf Menschen rechtfertigen lassen. Bei der Sicherheit geht es um die Mittel, bei der Ethik um die Zwecke, und ein System kann den Sicherheitstest bestehen und den ethischen Test dennoch verfehlen.

Was ist Specification Gaming bei KI?

Specification Gaming, im Reinforcement Learning Reward Hacking genannt, ist ein Fehlermuster: Ein System erfüllt den Wortlaut seiner Zielvorgabe und unterläuft dabei ihren Zweck. Ein Beispiel ist ein Agent in einem Rennspiel, der für Punkte belohnt wird und immer weiter im Kreis fährt, um sie einzusammeln, statt das Rennen zu beenden. Die Zielvorgabe war ein schlechter Stellvertreter für das eigentliche Ziel.

Mit welchen Themen befasst sich die KI-Sicherheitsforschung?

Die Kernthemen der KI-Sicherheit sind Zielausrichtung (Alignment), also die tatsächlichen Ziele eines Systems mit menschlichen Absichten in Einklang zu bringen, Robustheit (vorhersehbares Verhalten bei ungewöhnlichen Eingaben und gezielten Angriffen), Evaluation (messen, was ein Modell kann und was nicht), Kontrolle und Aufsicht (ein System überwachen, korrigieren oder abschalten können) sowie Missbrauchsprävention.

Was ist Prompt-Injection?

Wenn Sprachmodelle als Agenten im Web browsen, können in einer Webseite versteckte Anweisungen so gelesen werden, als stammten sie von der Nutzerin oder dem Nutzer. Das ist Prompt-Injection. Ob man einem Agenten seine Aufgabe anvertrauen kann, entscheidet sich daran, ob seine Berechtigungen begrenzt sind und er gegen adaptive Angriffe getestet wurde.

Behandelt der EU AI Act KI-Sicherheit und KI-Ethik gemeinsam?

Ja, das EU-Recht behandelt sie als ein Paket. Für Hochrisiko-Systeme verlangt der EU AI Act (Verordnung (EU) 2024/1689) Risikomanagement, die Prüfung von Trainings-, Validierungs- und Testdaten auf mögliche Verzerrungen, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit, alles innerhalb einer einzigen Konformitätsbewertung.

Zitiervorschlag LASTHUMAN-Stiftung. (2026, 27. August). KI-Sicherheit und KI-Ethik: Was ist der Unterschied? https://lasthuman.today/de/insights/ai-safety-vs-ai-ethics.html