CG-003
深層学習の逆伝播における全結合層ニューロンの準同期式更新

◎堀　哲也・関谷侑希（関西大）・竹中要一（関西大/阪大）

深層学習では逆伝播の過程において全ニューロンの重みが逆伝播時に更新される。一方、Hopfileldニューラルネットワークでは一部のニューロン重みしか更新しない事による性能向上が報告されている。この更新方式を準同期式更新と呼ぶ。本研究では深層学習に準同期式更新を導入する事による画像認識能力への影響を報告する。ニューラルネットワークVGG16を用いてデータセットCifar10を分類する実験を行った結果、画像認識タスクの汎化性能が向上することを明らかにした。また、全結合層の深さや、Dropout, Batch normalization組み合わせが性能に与える影響についても併せて報告を行う。