最終更新日:
AIモデルの出力や意思決定プロセスを分析することによって、モデル内のバイアスを特定するプロセス。
統計的不均衡テスト、反実仮想シミュレーション、サブグループのパフォーマンス比較、エラー分析ダッシュボードなどの定量的および定性的手法を用いて、モデルがどこでどのように異なるコホートを不平等に扱っているかを明らかにします。バイアス検出は継続的に行われます。データが進化するにつれて新たなバイアスが発生する可能性があるため、定期的な間隔での再評価が必要となります。
実際の導入事例：
あるEC企業は、製品推奨モデルを四半期ごとにバイアス検出パイプラインに通し、特定の顧客層に対して提案の数や質が低下していないかを検証しています。ヒスパニック層のクリック率が他よりも低いことが判明した際、データサイエンティストはユーザー行動サンプルのバランスを調整した上でモデルを再学習させ、この格差を是正します。
