Zuletzt aktualisiert am:
Der Prozess der systematischen Evaluierung von KI-Systemen, um sicherzustellen, dass sie ethischen Standards entsprechen und keinen Schaden anrichten.
Ein spezialisiertes Audit, das die Fairness von Modellen, die Minderung von Verzerrungen (Bias Mitigation), den Datenschutz, die Transparenz und die Governance-Prozesse anhand ethischer Benchmarks untersucht. Ethische Audits umfassen Interviews mit Stakeholdern, Code- und Datenprüfungen, Modelltests an sensiblen Untergruppen sowie die anschließende Verfolgung von Abhilfemaßnahmen. Die Berichte enthalten in der Regel Risikobewertungen und Aktionspläne.
Praxisbeispiel:
Das Büro für KI-Ethik einer Universität führt ein ethisches KI-Audit für seinen Chatbot zur Studienberatung durch. Die Auditoren prüfen, ob bestimmte Studienfächer voreingenommen empfohlen werden, überprüfen die Kontrollen zum Schutz der studentischen Daten und stellen sicher, dass der Bot seine KI-Natur offenlegt. Der daraus resultierende Audit-Bericht führt zu einer Verfeinerung der Trainingsdaten und einer Aktualisierung der Einwilligungserklärungen.
