最終更新日:
モデルやデータセットにおけるバイアスを低減または排除するために、AI開発プロセスにおいて適用される技術。
不当な不平等を体系的に削減する、一連の介入手段（前処理（データの再バランシングまたは再重み付け）、インプロセス処理（公平性を意識した学習目的）、および後処理（公平性基準を満たすための予測の調整））を提供します。ガバナンスのベストプラクティスには、組織のリスク許容度やコンプライアンス要件に合致した緩和策の選択が含まれます。
実際の導入事例：
再犯リスクを予測する刑事司法ツールに、バイアス緩和アルゴリズムを適用します。トレーニング中に公平性ペナルティを追加することで、白人と黒人の被告間の予測格差を縮小します。再トレーニング後、再犯予測率は人種グループ間で統計的に同等となり、これに応じてツールの展開ガイドラインが更新されます。
