最終更新日:
人工知能（AI）において、データやアルゴリズムに内在する偏見に基づき、特定の個人やグループを不当に扱い、その結果として不平等な結果をもたらすことを指します。
モデルの予測または意思決定が、保護対象クラス（人種、性別、年齢など）に対して体系的に不利益をもたらす場合に発生します。ガバナンスにおいては、不公平性の評価指標（機会の平等、人口統計的パリティなど）を定義し、トレーニングプロセスに公平性の制約を組み込み、導入されたモデルの不均等な影響（ディスパレート・インパクト）を監査するとともに、しきい値を超えた場合の是正計画を策定することが求められます。
実際の導入事例：
ある大学の合否予測ツールにおいて、第一世代の大学生（家族の中で最初に大学に進学する学生）の合格確率が低く算出される事象が発生しました。公平性監査を実施した結果、レガシー（卒業生子女）枠の志願者に関連する特徴量がこの格差を引き起こしていることが明らかになりました。アドミッション・オフィス（入試事務局）は、これらの代理指標（プロキシ）を排除した上でモデルを再学習させ、学生のバックグラウンドに関わらず等しい真陽性率（True Positive Rate）を達成しました。
