情報処理学会 第83回全国大会 会期:2021年3月18日~20日 会場:オンライン開催 情報処理学会 第83回全国大会 会期:2021年3月18日~20日 会場:オンライン開催

7Q-04
予測値への負の寄与を考慮したCNN回帰モデル解釈手法
○下村真生,中村和幸(明大)
画像を入力とする深層学習の出力に対して予測根拠を視覚的に説明する研究はGrad-CAMなど分類問題において進む一方,回帰問題においては数が少ない.代表例となるRAMは適用可能なCNN構造が限られ,予測値が負の場合に誤った可視化結果となる傾向がある.本発表では予測値の変動に寄与した領域を適切に可視化するため,出力から特徴量マップへの勾配で計算される重みに絶対値をつけたMoRAMを提案する.シミュレーションデータを用いてRAMとMoRAMの比較を定性的,定量的の両面から実施した結果,MoRAMはRAMより予測領域と真の特徴領域とのピクセル適合度が高く,適切な視覚的説明を出力するとの示唆を得た.