抄録
CF-007
多層ニューラルネットにおけるコミュニティ構造の推定と推論におけるコミュニティ間の関係解析
渡邊千紘・平松 薫・柏野邦夫(NTT)
多層ニューラルネットは多様な実データに対し高い予測精度を達成しているが,その推論の仕組みはブラックボックス化されており,人間が理解することは難しい.この課題を解決するために,我々はこれまで,ネットワーク解析を用いて多層ニューラルネットにおけるユニットのコミュニティ構造を推定し,元のネットワークを単純化した表現を得る方法を提案し,さらに各コミュニティの役割を入出力マッピングの観点から定量的に求める手法を提案してきた.これらの手法では,学習済みネットワークから抽出された各コミュニティの単独での役割については詳細に知ることが可能となったものの,異なるコミュニティ間の関連性について定量的に知る方法は存在していなかった.本研究では,ニューラルネットの異なる層における任意の2つのコミュニティに対し,入力層側のコミュニティから出力層側のコミュニティに与える影響の大きさを定量化し,可視化する手法を提案する.また,実際に回転を含む画像の認識を行うニューラルネットからコミュニティ構造を抽出し,その結果を解析することにより,多くのコミュニティで回転不変な入力画像の特徴に基づく推論が行われていることを確認し,コミュニティ間の関係について考察を行った.