t_dnn1-3-1(質問管理番号)

回答日時: 2019/1/24
Q: S3_1)出力層_誤差関数のところでは、
数式の表現は、単純な「二乗誤差の和」ですが、
ソースの表現は、「二乗誤差の平均」に変わっています。
動画では、講師が気づきつつも訂正していません。
上記の二つは、それぞれ、どういう使い分けをするのが適切でしょうか?
・バッチ数に依存しない誤差が欲しいときは平均・・・という使い方でしょうか?
A: 一般的には平均を用いることが多いと思います.しかし,パラメータの最適化の観点では,和と平均は学習率を調整することで同じ意味になりますのでどちらを使用してもよいです.