deep learning 検証精度と分類精度の差

エポックごとの学習及び検証の精度は高いが，最終の検証精度のみが低くなる傾向になることがあるのですが，何が原因としてでしょうか．matlabのバグでしょうか．

（過学習，leakageは検討済み）

Answer 1

[Takashi Ueno]

下記の事象かもしれません。

https://jp.mathworks.com/matlabcentral/answers/445800-why-do-i-see-a-drop-or-jump-in-my-final-validation-accuracy-when-training-a-deep-learning-network

[Kenta]

https://jp.mathworks.com/matlabcentral/answers/476832-cnn

これにも似ているかもしれません。

[masakazu sugino]

ありがとうございます．

バッチ平滑化を考慮すれば，解決しました．

私の場合batchnomalizationを導入したときであっても，最終精度に差が出るときと出ないときがあるようです．

[Kenta]

返信ありがとうございます。解決してよかったです！

ちなみに、解決のために、batchnormalization層を除いたのでしょうか？それともミニバッチサイズを変更しましたか？

[masakazu sugino]

batchnormalization層を除きました．

ミニバッチサイズを変更して検証したこともありますが，最終精度の低下は変わりませんでしたが，低下の割合が変化しました．