最終更新日:
MAS FEAT原則とは、シンガポール金融管理局(MAS)が2018年11月12日に発表した、公正性(Fairness)、倫理(Ethics)、責任性(Accountability)、透明性(Transparency)の4つからなる原則です。これは、シンガポールの金融セクターにおける人工知能(AI)およびデータ分析の責任ある活用を指導するためのものです。本原則は法的拘束力のないガイドラインであり、強制力のある規則ではありません。また、Veritas評価手法によってサポートされています。
FEATとは何の略ですか?
FEAT原則は、AIおよびデータアナリティクス(AIDA)を利用する金融機関に対する4つの期待領域を定めています。
公平性(Fairness):AIDA主導の決定が、正当な理由なく特定の個人またはグループを組織的に不利に扱ってはなりません。決定は正当化可能であるべきであり、データとモデルは正確性と意図しないバイアスの有無について定期的に検証されるべきであり、使用される属性は決定に関連するものである必要があります。
倫理(Ethics):AIDAの利用は、金融機関自身の倫理基準、価値観、および行動規範に合致している必要があり、少なくとも人間が下す決定と同等の基準を満たさなければなりません。
説明責任(Accountability):適切な権限者によって承認された、AIDA主導の決定に対する内部的な説明責任、およびそれらの決定によって影響を受ける顧客に対する外部的な説明責任を指します。
透明性(Transparency):データ主体に対するAIDAの利用に関する主体的な開示、および要求に応じたAIDA主導の決定に関する明確な説明を指します。
FEAT原則は義務的なものですか?
いいえ、違います。FEATはシンガポール金融管理局(MAS)が発行した法的拘束力のないガイドラインであり、直接的な罰則を伴う規制ではありません。これは監督上の期待として機能します。MASは、シンガポールの金融機関がAIをどのようにガバナンスすべきかを示す参照基準としてこれを使用しており、各企業はこれに照らして自社のアプローチを説明することが求められます。ルールというよりも、標準のように機能します。不遵守に対して企業に罰金が科されることはありませんが、自らの立場について弁護可能な説明責任を果たすことが期待されています。
企業はどのようにしてFEATへの準拠を証明するのですか?
MASはこれらの原則を補完するために、コンソーシアムの取り組みであるVeritasイニシアチブを立ち上げました。これは、各FEAT原則をテスト可能なステップに変換した評価手法と、オープンソースのツールキットを作成したものです。また、シンガポールのAI Verifyフレームワークは、さらなるテストルートを提供しています。これらにより、FEATは単なる宣言された原則から、文書化された証拠へと移行します。これこそが、監督機関が提示を求めるものです。
FEATはAIガバナンスプログラムにとって何を意味しますか?
FEATは、第一線(業務部門)の防衛を重視しています。モデルを導入するビジネスオーナーは、モデルリスク管理部門やコンプライアンス部門だけでなく、その結果に対しても責任を負います。そのため、インテーク(受付)および所有権の記録は、検証と同等に重要になります。多くの企業は、すべてのAIDAユースケースについて、指名された責任あるオーナー、実施された公平性評価、使用されたデータ属性、および顧客向けの開示情報を記録することで、これを運用しています。これは、自動化されたAIガバナンスに必要とされる証拠基盤と同一のものです。
実際の導入事例:
シンガポールの、ある銀行が、Veritasの手法を用いて、自社のAI住宅ローン・アドバイザリー・モデルを「公平性」の原則に照らして評価しています。この評価により、モデルが郵便番号を特徴量として使用していることが判明しました。これは、一部の地区において民族性と相関関係があり、代替変数として機能していました。同行はこの特徴量を除去し、申請者グループ間における不均衡な結果について再テストを行い、残りのすべての属性に対する正当性を記録しました。そして、モデルがもたらす結果に対する説明責任を、モデルを構築したデータサイエンス・チームではなく、指名された住宅ローン事業の責任者に割り当てました。





