用語集
更新日
AIライフサイクル(データ収集、前処理、モデリング、評価)のすべての段階を監査してバイアスを調査する、独立したチームや外部企業による体系的なレビューです。監査人は統計テスト(差別的影響の検定など)、モデルの説明可能性ツール、ユーザーグループ分析を適用します。このプロセスは、具体的な是正策の推奨とガバナンスの更新をもって終了します。
例
ある銀行が、自社の与信スコアリングAIのバイアス監査を依頼します。監査人はデモグラフィック(人口統計学的)グループごとに融資決定のサンプリングを行い、特定の郵便番号の申請者が不当に高く拒否されていることを発見します。そして、スコアリングアルゴリズムにおけるデータ拡張と新たな公平性の制約を推奨し、その後、銀行は進捗を追跡するために毎月拒否率を監視します。
