Ethisches KI-Audit
Der Prozess der systematischen Bewertung von KI-Systemen, um sicherzustellen, dass sie ethischen Standards entsprechen und keinen Schaden anrichten.
Definition
Ein spezialisiertes Audit, das die Fairness der Modelle, die Vermeidung von Vorurteilen, den Datenschutz, die Transparenz und die Unternehmensführung anhand ethischer Maßstäbe untersucht. Ethische Audits umfassen Interviews mit Interessenträgern, Code- und Datenüberprüfungen, Modelltests an sensiblen Untergruppen und die Verfolgung von Folgemaßnahmen. Die Berichte enthalten in der Regel Risikoeinstufungen und Maßnahmenpläne.
Real-World Example
Das KI-Ethikbüro einer Universität führt ein ethisches KI-Audit seines Chatbots zur Studienberatung durch. Auditoren testen, ob die Empfehlungen bestimmter Studiengänge voreingenommen sind, überprüfen die Datenschutzkontrollen der Studierenden und stellen sicher, dass der Bot seinen KI-Charakter offenlegt. Der daraus resultierende Auditbericht führt zur Verfeinerung der Schulungsdaten und zur Aktualisierung der Zustimmungsnachrichten.
.svg)
