ジャスティス・メトリクス
AIの意思決定における公平性と無差別の評価に使用される定量的指標（異なる影響、機会均等など）。
Definition
人口層または保護対象階級全体の公平性を定量化する統計的指標。さまざまな影響度測定では結果率、機会均等指標は真陽性率を等しく測定し、キャリブレーションでは予測リスクの正確性を評価します。ガバナンスの枠組みでは、ユースケースごとに適切な司法指標を選択し、許容できる閾値を設定し、それを定期的に監督機関に報告して、AIライフサイクル全体を通じて差別されないようにすることが義務付けられています。
Real-World Example
あるプレディクティブ・ポリシング・モデルのアウトプットは、毎月評価されます。この部門では、レースごとにストップの異なる影響率を計算したところ、その比率が0.8という閾値を超えていることがわかりました。自動パトロールの推奨を一時停止し、公平性の制約を課してモデルを再調整し、配備後にストップ率がジャスティス・メトリックの目標を達成しているかどうかを検証します。
.svg)
