AIシステムが、訓練データに存在する既存のバイアスを悪化させ、ますます偏った結果を招く現象。
バイアスのあるデータで学習したモデルが、新たなデータにおいてそのバイアスを強化する予測を行う（例：特定の結果を優先的に選択または重み付けする）ことで、当初の不公平を増幅させるフィードバックループ。増幅の検知には経時的な監査が必要であり、緩和にはフィードバックサイクルを抑制するためのデータ拡張戦略が含まれる場合があります。
ニュース推薦ボットは、ユーザーがクリックした記事と類似したコンテンツを優先的に表示します。あるサブグループに対して初期段階で政治関連コンテンツが主に提示されると、ユーザーは政治記事をより多くクリックするようになり、ボットは「彼らの関心は政治のみである」という認識をさらに強めます。時間の経過とともに、ボットはこの限定的な焦点を増幅してしまいます。チームは、推薦ロジックに多様性の制約を追加することで、この問題を緩和します。
