最終更新日:
AIモデルの予測がさまざまなグループ間でどの程度公平であるかを評価するために用いられる、定量的な測定指標(例:デモグラフィック・パリティ、機会の平等など)。
グループ間における結果の不均衡を検知および監視するための、客観的な基準を提供します。一般的な指標には、デモグラフィック・パリティ(均等な陽性予測率)、機会の平等(均等な真陽性率および偽陽性率)、キャリブレーション(予測されたリスクと実際の測定結果の一致)などがあります。ガバナンスフレームワークにより、ユースケースごとに適切な指標を選択し、それらを継続的に追跡して、公平性に関するSLA(サービス品質保証)を遵守することが義務付けられています。
実際の導入事例:
ある大学の合否予測モデルは、デモグラフィック・パリティ(人口統計学的等価)の差異を四半期ごとに報告しています。女性志願者の肯定的予測率が男性志願者の95%未満に低下すると、アラートが作動して公平性レビューがトリガーされます。チームは、0.8のパリティ・ルールを満たすように判定のしきい値を調整し、その変更を公平性ダッシュボードに記録します。




