F-021
深層畳み込みネットワークの初期化アルゴリズム

◎邉見貴彦・加藤　毅（群馬大）

畳み込みニューラルネットワーク(CNN)は，画像認識における揺るぎない地位を築いてきた．CNN は，畳み込み層，マックスプーリング層，全結合層，大域的平均プーリング層などを組み合わせて構成されるネットワーク構造である．学習の安定性は，初期値に依存する．これまで，Kaiming らの初期化が標準的に用いられてきた．しかし，Kaiming らの初期化はプーリング層を無視するなど，CNNを単純化して導出されたもので，今日用いられている多様な層を勘案したモデルにはなっていなかった．本研究では，CNN で用いられている様々な層を精密にモデル化して初期化法を導出しなおし，その初期化を使ったときの実データにおける CNN 学習のふるまいを調査した．