最終更新日:
AIシステムにおけるバイアスを検出および軽減し、公平性と倫理基準への準拠を確保するための評価プロセス。
AIライフサイクル（データ収集、前処理、モデリング、評価）のすべての段階を監査してバイアスを調査する、独立したチームや外部企業による体系的なレビューです。監査人は統計テスト（異質な影響の有無など）、モデルの説明可能性ツール、ユーザーグループ分析を適用します。このプロセスは、具体的な是正策の推奨とガバナンスの更新をもって終了します。
実際の導入事例：
ある銀行が、自社の与信スコアリングAIのバイアス監査を依頼します。監査人はデモグラフィック（人口統計学的）グループごとに融資決定のサンプリングを行い、特定の郵便番号の申請者が不当に高く拒否されていることを発見します。そして、スコアリングアルゴリズムにおけるデータ拡張と新たな公平性の制約を推奨し、その後、銀行は進捗を追跡するために毎月拒否率を監視します。
