Zuletzt aktualisiert am:
Die MAS FEAT-Prinzipien sind vier Grundsätze zu Fairness, Ethik, Rechenschaftspflicht und Transparenz (Fairness, Ethics, Accountability and Transparency). Sie wurden am 12. November 2018 von der Monetary Authority of Singapore veröffentlicht, um den verantwortungsvollen Einsatz von künstlicher Intelligenz und Datenanalysen im Finanzsektor Singapurs zu fördern. Dabei handelt es sich um unverbindliche Leitlinien, nicht um durchsetzbare Vorschriften, die durch die Veritas-Bewertungsmethodik unterstützt werden.
Wofür steht FEAT?
Die FEAT-Prinzipien definieren vier Erwartungsbereiche für Finanzinstitute, die KI und Datenanalysen (AIDA) einsetzen:
Gerechtigkeit (Fairness). Durch AIDA gestützte Entscheidungen sollten Einzelpersonen oder Gruppen nicht ohne Rechtfertigung systematisch benachteiligen. Entscheidungen müssen begründbar sein, Daten und Modelle sollten regelmäßig auf Genauigkeit und unbeabsichtigte Verzerrungen überprüft werden, und die verwendeten Attribute müssen für die Entscheidung relevant sein.
Ethik (Ethics). Die Nutzung von AIDA sollte mit den eigenen ethischen Standards, Werten und Verhaltensrichtlinien des Instituts im Einklang stehen und mindestens denselben Maßstäben genügen wie von Menschen getroffene Entscheidungen.
Rechenschaftspflicht (Accountability). Interne Rechenschaftspflicht für AIDA-gestützte Entscheidungen, die von einer zuständigen Instanz genehmigt wurden, sowie externe Rechenschaftspflicht gegenüber den Kunden, die von diesen Entscheidungen betroffen sind.
Transparenz (Transparency). Proaktive Information der betroffenen Personen über die Nutzung von AIDA sowie auf Anfrage eine klare Erklärung der AIDA-gestützten Entscheidungen.
Sind die FEAT-Prinzipien verpflichtend?
Nein. FEAT ist eine unverbindliche Leitlinie der MAS (Monetary Authority of Singapore) und keine Verordnung, die direkte Strafen nach sich zieht. Sie fungiert als aufsichtsrechtliche Erwartungshaltung. Die MAS nutzt sie als Referenzpunkt dafür, wie Finanzinstitute in Singapur die Governance von KI gestalten sollten, und von den Unternehmen wird erwartet, dass sie ihren Ansatz daran messen und erläutern. Sie funktioniert eher wie ein Standard als eine starre Regel. Unternehmen werden bei Nichteinhaltung nicht mit Bußgeldern belegt, müssen jedoch eine vertretbare und begründete Position vorweisen können.
Wie weisen Unternehmen die Einhaltung der FEAT-Prinzipien nach?
Die MAS hat die Prinzipien durch die Veritas-Initiative ergänzt, ein Gemeinschaftsprojekt eines Konsortiums, das Bewertungsmethoden zur Übersetzung jedes FEAT-Prinzips in prüfbare Schritte sowie Open-Source-Toolkits hervorgebracht hat. Singapurs AI Verify-Framework bietet einen weiteren Prüfpfad. Zusammen führen diese Instrumente FEAT von der reinen Absichtserklärung hin zu dokumentierten Nachweisen, die eine Aufsichtsbehörde verlangt.
Was bedeutet FEAT für KI-Governance-Programme?
FEAT legt großes Gewicht auf die erste Verteidigungslinie (First Line of Defense). Der Geschäftsbereichsleiter, der ein Modell einsetzt, ist für dessen Ergebnisse verantwortlich – und nicht nur die Modellrisiko- oder Compliance-Funktion. Dadurch sind Erfassungs- und Eigentumsnachweise ebenso wichtig wie die Validierung. Die meisten Unternehmen setzen dies in der Praxis so um, dass sie für jeden AIDA-Anwendungsfall einen namentlich genannten Verantwortlichen, die durchgeführte Gerechtigkeitsprüfung, die verwendeten Datenattribute und die kundenorientierte Offenlegung dokumentieren. Dies ist dieselbe Evidenzbasis, die auch für eine automatisierte KI-Governance erforderlich ist.
Praxisbeispiel:
Eine Bank in Singapur bewertet ihr KI-gestütztes Hypothekenberatungsmodell anhand der Veritas-Methodik im Hinblick auf das Fairness-Prinzip. Die Überprüfung ergibt, dass das Modell die Postleitzahl als Merkmal verwendet, was in einigen Bezirken mit der ethnischen Zugehörigkeit korreliert und als Proxy-Variable fungiert. Die Bank entfernt dieses Merkmal, prüft erneut auf ungleiche Ergebnisse zwischen den Bewerbergruppen, protokolliert die Begründung für jedes verbleibende Attribut und überträgt die Verantwortung für die Ergebnisse des Modells dem namentlich genannten Leiter des Hypothekengeschäfts anstelle des Data-Science-Teams, das es entwickelt hat.
