Der Prozess der systematischen Bewertung von KI-Systemen, um sicherzustellen, dass sie den ethischen Standards entsprechen und keinen Schaden verursachen.
Ein spezialisiertes Audit, das Modellfairness, Maßnahmen zur Bias-Minderung, Datenschutz, Transparenz und Governance-Prozesse anhand ethischer Maßstäbe prüft. Ethische Audits umfassen Stakeholder-Interviews, Code- und Datenprüfungen, Modelltests in sensiblen Untergruppen sowie die Nachverfolgung von Abhilfemaßnahmen. Berichte enthalten in der Regel Risikobewertungen und Aktionspläne.
Das Büro für KI-Ethik einer Universität führt ein ethisches KI-Audit ihres Chatbots für die Studienberatung durch. Die Prüfer testen auf voreingenommene Empfehlungen zugunsten bestimmter Studiengänge, überprüfen die Datenschutzkontrollen für Studierendendaten und verifizieren, dass der Bot seine KI-Natur offenlegt. Der daraus resultierende Auditbericht führt zur Verfeinerung der Trainingsdaten und zur Aktualisierung der Einwilligungshinweise.
