暗黙のバイアス
トレーニングデータやモデル設計に無意識または意図しないバイアスが埋め込まれていると、差別的な結果につながる可能性があります。
Definition
データキュレーションプロセスでは表面化しない社会的、文化的、またはサンプリング的要因によって生じるバイアス。ラベル作成者の判断や歴史的記録には、暗黙のバイアスが潜んでいる可能性があります。ガバナンスでは、こうした不公平な結果を招く隠れた要因を発見して是正するために、盲目的にラベルを付けるプロトコル、多様なアノテーションチーム、定期的なバイアス検出スキャンが求められています。
Real-World Example
ソーシャルメディアの投稿でトレーニングされた感情分析モデルには、特定の方言の投稿がより否定的にラベル付けされるという、暗黙のバイアスが反映されています。チームはブラインドラベリング（著者のメタデータを除去）を導入し、多様なアノテーターを募集して、方言テキストの誤分類率を 40% 削減しています。
.svg)
