情報処理学会 第86回全国大会 会期:2024年3月15日~17日

6B-04
機械学習モデルの予測を早期に変更するための反実仮想説明ルートの生成
○畠山優太,岡嶋 穣(NEC)
反実仮想説明は、所望のクラスに分類されるためには入力事例をどう改善すればよいかを示す、機械学習モデルの説明手法である。しかし、従来手法では、最終的に所望のクラスに分類されることだけを目指しており、目的達成までの過程で所望のクラスに分類される確率がどのように改善されるかを考慮していなかった。本研究では、修正前の事例と修正後の事例をつなぐ入力空間内のルートを生成して改善効果を可視化しつつ、ルートの途中で所望のクラスに分類される確率が早期に高くなるようなルートを優先的に探索することで、より早い段階で改善効果を得られる手法を提案する。人工データと実データを用いた実験により本手法の有効性を示す。