4R-08
深層ニューラルネットワークにおけるヘッセ行列の近似手法による固有値への影響調査
○本川哲哉（筑波大），長沼大樹（モントリオール大），井手達朗（カリフォルニア大）
深層学習の汎化性能にヘッセ行列の固有値が強く相関を持つことが知られている。近年、最先端の性能を発揮する学習手法も、ヘッセ行列の固有値を考慮した方法となっている。しかしながら、深層NNでは計算量が膨大となるため、一般に近似手法によって計算されたヘッセ行列が用いられてる。本研究では、深層学習において、各種近似手法がヘッセ行列の固有値に及ぼす影響を調査する。
