バックプロパゲーション

定義

ニューラルネットワークの学習アルゴリズム。出力での誤差（残差）を連鎖律（chain rule）を使って入力側に逆向きに伝播させ、各パラメータの勾配を効率的に計算する。前向きパス（入力→出力の計算）と後ろ向きパス（出力→入力の勾配計算）の2パスで構成される。フォワードパスで計算した中間値を再利用することで計算効率を高めている。