公平性
AIシステムがさまざまな個人やグループにわたって偏りのない公平な結果を生み出すことを保証し、差別的な影響を軽減します。
Definition
AIモデルが保護対象グループと非保護グループで同等の結果をもたらすことを要求するガバナンスの原則と技術的目標。公平性は、統計的基準 (人口平等、機会均等など)、偏見緩和アルゴリズム、継続的なモニタリングによって実現されます。そのためには、ステークホルダーが関与して、文脈において「公平な」とは何を意味するのかを定義し、公平性への介入が正確性を過度に犠牲にしていないことを検証することが求められます。
Real-World Example
採用AIはジェンダーバランスの監査を受けています。緩和前は、男性候補者の方が面接内定率が 25% 高かったのです。チームは、再研修中に公平性制約を適用して内定確率を均等化しています。導入後のレポートでは、面接率は男女を問わず 2% 以内であることが示され、予測精度を損なうことなく公平性が向上しています。