近年，自動車製造において，作業効率の向上を目的とした作業員の行動解析の需要が高まっている．このことから，深層ニューラルネットワーク(Deep Neural Network: DNN)を用いた作業員の行動解析の研究が注目されている．行動解析DNNは，特徴抽出器と時系列行動解析器から構成されるため，分類結果がどの時刻のどの特徴に基づいているかの解釈が困難という課題がある．また自動車組立作業映像は，車体に対し作業員が小さく映るという特徴があり，DNNが作業員を注視し推論を行っているかの確認が求められる．このため本研究では，特徴抽出器と時系列行動解析器で構成される行動解析DNNに対する視覚的説明手法を提案する．