バイアス監査
AIシステムの偏りを検出して軽減し、公平性と倫理基準の遵守を確保するための評価プロセス。
Definition
AIライフサイクルのあらゆる段階（データ収集、前処理、モデリング、評価）に偏りがないかを調べる構造化されたレビュー（多くの場合、独立したチームまたは外部企業による）。監査人は、統計的テスト (異なる影響など)、モデル説明ツール、およびユーザーグループ分析を適用します。このプロセスは、具体的な改善案とガバナンスの更新をもって終了します。
Real-World Example
ある銀行が、自社の信用スコアAIのバイアス監査を委託しています。監査人は人口統計グループごとに融資決定をサンプリングし、特定の郵便番号からの申請者が不釣り合いに拒否されていることを発見し、スコアリングアルゴリズムにおけるデータ拡張と新しい公平性制約を推奨します。その後、銀行は毎月拒否率を監視して進捗状況を追跡します。
.svg)
