情報処理学会 第81回全国大会講演要旨
4Q-07
ノイズを用いた深層学習における学習モデルの解釈性に関する一考察
深層学習は自然言語処理・画像認識などの問題に対して従来の機械学習手法よりも高性能な推論が可能である．
しかしながら，深層学習モデルは，推論の判断根拠がわからず，判断された過程が重要な場合に根拠が提示できないという問題点がある．
本研究では深層学習の判断根拠を示すことに取り組む．
本稿では，判断根拠を示すためのアプローチとして，モデルにある入力を加えたときの勾配の大きさを可視化する手法に着目し，判断根拠の提示について考察を行う．
しかしながら，深層学習モデルは，推論の判断根拠がわからず，判断された過程が重要な場合に根拠が提示できないという問題点がある．
本研究では深層学習の判断根拠を示すことに取り組む．
本稿では，判断根拠を示すためのアプローチとして，モデルにある入力を加えたときの勾配の大きさを可視化する手法に着目し，判断根拠の提示について考察を行う．
