判断バイアス
人間やAIの意思決定プロセスにおけるシステムエラーは、コグニティブ・ショートカットや欠陥のあるデータによって引き起こされ、バイアスの監査と軽減が必要である。
Definition
人間の判断における認知ヒューリスティック(可用性、アンカリング)、またはそれらのバイアスを反映したアルゴリズムパターンに起因するエラー。判断バイアスは、ラベル注釈、ポリシー設定、またはポストモデルレビューで発生する可能性があります。ガバナンスは、構造化された意思決定プロトコル、ブラインドレビューパネル、偏見認識トレーニング、アルゴリズム監査を通じてこの問題を解決し、偏った結果が広まる前にそれを検出して是正します。
Real-World Example
ローン引受では、引受人は聞き覚えのある名前の申請者を優先する傾向があります(認識バイアス)。銀行はブラインド申請(名前を隠す)を導入し、実施前と実施後の承認率を比較するバイアス監査を実施することで、名前に基づく格差を 60% 削減しています。