バイアス緩和
モデルやデータセットのバイアスを軽減または排除するためにAI開発中に適用される手法。
Definition
前処理 (データのリバランスまたはリウェイト)、処理中 (公平性を意識した学習目標)、後処理 (公平性基準を満たすように予測を調整する) といった一連の介入により、望ましくない格差を体系的に削減します。ガバナンスのベストプラクティスには、組織のリスク許容度とコンプライアンスのニーズに合った緩和戦略の選択が含まれます。
Real-World Example
再犯リスクを予測する刑事司法ツールは、偏見軽減アルゴリズムを適用します。訓練中に、白人と黒人の被告間の予測ギャップを減らす公平性ペナルティが科されます。再訓練後、再犯予測率は人種グループ間で統計的に同等になり、それに応じてツールの導入ガイドラインが更新されます。