AI開発において、モデルやデータセット内のバイアスを削減または排除するために適用される技術。
不要な格差を体系的に低減するための介入施策群として、前処理（データの再バランシングまたは再重み付け）、処理中（公平性を考慮した学習目的関数）、および後処理（公平性基準を満たすように予測を調整）があります。ガバナンスにおけるベストプラクティスには、組織のリスク許容度およびコンプライアンス要件に整合する緩和戦略を選定することが含まれます。
再犯リスクを予測する刑事司法向けツールには、バイアス緩和アルゴリズムが適用されています。学習時には、白人および黒人の被告人間における予測の乖離を縮小する公平性ペナルティが追加されます。再学習後、再犯予測率は人種グループ間で統計的に同等となり、これに合わせて当該ツールの導入ガイドラインも更新されます。
