Glossar
Aktualisiert
Was ist KI-Ethik?
KI-Ethik fragt, ob eine KI-Verwendung richtig ist, nicht nur, ob sie legal ist. Es geht um Fragen wie diese: Wer könnte unfair behandelt werden? Wissen Menschen, wann KI im Spiel ist? Wer ist verantwortlich, wenn etwas schiefgeht? Und wann sollte ein Mensch das letzte Wort haben? In Organisationen nimmt KI-Ethik meist die Form weniger Grundsätze an, die von der Unternehmensleitung verabschiedet werden und den Maßstab für jede KI-Entscheidung setzen.
Auf welche Frameworks stützen sich Organisationen?
Unternehmensgrundsätze stützen sich oft auf drei internationale Quellen. Die KI-Grundsätze der OECD, im Mai 2019 verabschiedet und im Mai 2024 aktualisiert, waren der erste zwischenstaatliche Standard für KI. Die Ethik-Leitlinien für eine vertrauenswürdige KI, im April 2019 von der Hochrangigen Expertengruppe für KI der EU vorgestellt, legen sieben Kernanforderungen fest, darunter Vorrang menschlichen Handelns und menschliche Aufsicht, Transparenz, Fairness und Rechenschaftspflicht. Sie haben den EU AI Act geprägt. Die Empfehlung zur Ethik der künstlichen Intelligenz der UNESCO wurde im November 2021 von allen 193 Mitgliedstaaten angenommen.
Wie hängen Ethik, Governance und Compliance zusammen?
Die drei überschneiden sich, haben aber unterschiedliche Aufgaben. Ethik legt fest, was die Organisation für richtig hält. Compliance umfasst, was das Gesetz verlangt. KI-Governance ist der Prozess, der beides auf konkrete Entscheidungen anwendet: wer eine neue KI-Verwendung prüft, nach welchen Kriterien und wer sie freigibt. Grundsätze ohne Prozess dahinter ändern nichts daran, was entwickelt wird.
Der EU AI Act hat mehrere ethische Grundsätze zu Rechtspflichten gemacht, etwa die menschliche Aufsicht über Hochrisiko-KI-Systeme und die Pflicht, Menschen mitzuteilen, dass sie mit einem Chatbot sprechen. Die meisten ethischen Fragen liegen aber weiterhin außerhalb des Rechts. Deshalb formulieren Organisationen eigene Grundsätze.
Wie setzen Sie Grundsätze in die Praxis um?
Übersetzen Sie jeden Grundsatz in Fragen, die Prüfer beantworten können, und in Nachweise, die sie kontrollieren können. Aus Fairness wird die Vorgabe, Ergebnisse vor dem Start gruppenübergreifend zu testen. Aus Transparenz wird die Regel, dass Kunden erfahren, wenn sie es mit KI zu tun haben. Aus menschlicher Aufsicht wird eine namentlich benannte Person, die ein System stoppen kann. Bauen Sie diese Fragen in die Prüfung ein, die jede neue KI-Verwendung durchläuft, damit die Grundsätze schon vor dem Start greifen. Viele Organisationen geben zudem einem Ethikgremium oder einem Responsible-AI-Team die Befugnis, eine Verwendung zu eskalieren oder zu untersagen. Bei folgenreicheren Verwendungen dokumentiert eine Folgenabschätzung für KI-Systeme, wer betroffen sein könnte und wie.
In Enzai werden diese Fragen Teil des Antragsprozesses und der Prüfung, die jede neue KI-Verwendung durchläuft. So bleiben die Antworten und die Entscheidung für jede Verwendung dokumentiert. Mehr dazu unter Enzai für Responsible-AI-Verantwortliche.
Beispiel
Zu den KI-Grundsätzen eines Krankenversicherers gehört: keine automatisierten Ablehnungen ohne menschliche Prüfung. Schlägt ein Team ein Modell vor, das Leistungsanträge zur Ablehnung markiert, fragt die Prüfung im Antragsprozess, wie ein Mensch jede Markierung kontrolliert, bevor ein Antrag abgelehnt wird, und ob sich die Ergebnisse nach Alter oder Postleitzahl unterscheiden. Das Team ergänzt einen Prüfschritt und einen vierteljährlichen Fairnesstest. Die Responsible-AI-Leitung gibt die Verwendung unter diesen Bedingungen frei, und beide Bedingungen werden mit der Entscheidung dokumentiert.