バイアス増幅
AIシステムがトレーニングデータに存在する既存のバイアスを悪化させ、結果にますます偏りが生じる現象。
Definition
フィードバックループでは、偏ったデータに基づいてトレーニングされたモデルが、特定の結果を優先的に選択したり重み付けしたりするなどして、新しいデータの偏りを補強する予測を行うことで、元の不平等を拡大します。増幅を検出するには縦断的監査が必要であり、緩和策にはフィードバックサイクルを弱めるためのデータ拡張戦略が必要となる場合があります。
Real-World Example
ニュースレコメンデーションボットは、ユーザーがクリックしたようなストーリーを宣伝します。最初は、あるサブグループの政治的なコンテンツが主だった場合、ユーザーはより多くの政治記事をクリックするようになり、政治だけが自分の関心事であるというボットの考えが強まります。時間が経つにつれて、ボットはこの狭い対象をさらに拡大していきます。チームは、レコメンデーションロジックに多様性の制約を追加することでこの問題を軽減しています。
.svg)
