アルゴリズムバイアス
機械学習プロセスにおける誤った仮定が原因で、アルゴリズムがシステム的に偏った結果を生成した場合に発生するバイアス。
Definition
アルゴリズムロジックに起因する不公平または不均衡な扱いは、偏った入力、偏った目標、または欠陥のある特徴選択によって増幅され、継続的な監査と是正が必要です。
Real-World Example
ある大学の入学選考AIは、「レガシー志願者」の地位を過大評価し、卒業生の子供たちの受け入れ率が不釣り合いに高くなっています。アドミッションズ・オフィスはこの機能を廃止し、モデルを再トレーニングし、合格率を追跡して、人口統計全体での公平性を確認しています。
.svg)
