バックプロパゲーション
ニューラルネットワークで使用されるトレーニングアルゴリズムで、誤差を出力層から逆方向に伝播して損失を最小限に抑えることで重みを調整します。
Definition
フォワードパスによってネットワークの予測が計算された後、予測値と真値の差 (損失) が逆方向に (層ごとに) 伝播されて勾配が計算される反復最適化プロセス。これらの勾配は勾配降下法によって重みの更新に反映され、ディープネットワークが複雑で階層的な特徴表現を学習できるようになります。
Real-World Example
画像分類では、畳み込みニューラルネットワークが数百万枚のラベル付き写真にバックプロパゲーションを使用します。バッチごとに数百万の接続ウェイトを調整して、「猫」画像が正しい出力ノードでは高いアクティベーションを生成し、他の場所ではアクティベーションを低くして、検証データの精度が徐々に95％を超えるようにします。
.svg)
