公平性指標
AIモデルの予測がグループ全体でどの程度公平であるかを評価するために使用される定量的指標(人口統計学的同等性、均等化オッズなど)。
Definition
グループごとの結果格差を検出および監視するための客観的な基準を提供する。一般的な指標には、人口統計学的パリティ(陽性予測率が等しい)、均等化オッズ(正陽性率と偽陽性率が等しい)、キャリブレーション(予測リスクが観察結果と一致する)などがあります。ガバナンスの枠組みでは、公平性SLAを実施するために、ユースケースごとに適切な指標を選択し、それらを継続的に追跡することが義務付けられています。
Real-World Example
ある大学の入学予測モデルでは、四半期ごとに人口統計学的な差異が報告されています。女性志願者の陽性予測率が男性志願者の 95% を下回ると、アラートが公正審査を開始します。チームは 0.8 のパリティルールを満たすように意思決定の閾値を調整し、その変化を公平性ダッシュボードに記録します。