Transparenz
Die Praxis, KI-Systemprozesse, Entscheidungslogik und Datennutzung für Interessengruppen klar und verständlich zu machen, damit sie zur Rechenschaft gezogen werden können.
Definition
Beinhaltet Offenlegungen an die Öffentlichkeit oder an Interessengruppen — Modellkarten, Datenblätter, API-Dokumentation —, in denen beschrieben wird, wie Daten gesammelt, wie Modelle trainiert werden, welche Annahmen sie beinhalten und wie Entscheidungen getroffen werden. Zur Transparenz gehören auch benutzerfreundliche Erklärungen einzelner Entscheidungen und klare Versionshistorien. Die Unternehmensführung verankert Transparenzanforderungen in die Projektcharta und schreibt vor, dass die Dokumentation regelmäßig aktualisiert wird, wenn sich die Systeme weiterentwickeln.
Real-World Example
Eine Gesundheitsbehörde veröffentlicht eine „Modellkarte“ für ihren Prädiktor für COVID-19-Krankenhausaufenthalte, in der die Quellen der Trainingsdaten, Leistungskennzahlen nach Regionen, bekannte Einschränkungen und Aktualisierungsprotokolle detailliert beschrieben werden. So können Kliniker und politische Entscheidungsträger die Ergebnisse des Modells verstehen und ihnen vertrauen.
.svg)
