認知バイアス
規範からの逸脱や判断の合理性の体系的なパターン。トレーニングデータに存在する場合、AIの意思決定に影響を与える可能性があります。
Definition
人間の偏見（アンカリング、確認、可用性）は、データのラベル付け、特徴選択、および目標設定に影響を及ぼす可能性があります。認知バイアスを認識するには、構造化されたデータガバナンスレビュー、ブラインドラベリングプロトコル、多様なラベリングチームが必要です。組織は、データ配信だけでなく、ヒューマン・イン・ザ・ループ・プロセスの中にもバイアスの原因がないか監査する必要があります。
Real-World Example
あるアンケート回答分類ツールが、ニュートラルなセンチメントをネガティブと誤って分類しています。これは、最近のニュースイベントに刺激されて、ラベラーが中立性を悲観主義（可用性バイアス）と過剰に解釈しているためです。この認知バイアスを今後の注釈で軽減するために、チームはブラインドラベリングを実施し、ラベラーをローテーションします。
.svg)
