用語集
更新日
意図的なループ（強化学習）と意図しないループ（推薦による強化）の両方について説明します。ポジティブなループは時間の経過とともにパフォーマンスを最適化できますが、ネガティブなループはバイアスの増幅を招くリスクがあります（例：推薦システムが人気のあるコンテンツを表示することで、さらにその人気が高まるなど）。ガバナンス戦略には、ループ検出メトリクス、介入ポリシー（多様性枠の設定）、および実環境へのデプロイ前におけるシミュレーションループテストが含まれます。
例
ニュースプラットフォームのレコメンダーが、トレンドの記事を表示します。ユーザーがそれらをより多くクリックするため、システムはさらにそれらを増幅させ、コンテンツの多様性を狭めてしまいます。開発チームは、この無限のフィードバックループを断ち切り、コンテンツの多様性を維持するために、クリック数の少ないトピックを一定の割合で挿入する「セレンディピティ（偶発性）」の制約を導入します。