F-040
2分決定図を用いた機械学習予測の説明手法

◎浅野孝平・全　眞嬉・徳山　豪（東北大）

近年Deep Neural Networkなどをはじめとする高性能な識別モデルが提案されている．しかしながら，それらのモデルの多くはブラックボックスである．そのようなモデルから得られた予測結果の原因を予測する手法として，Local Interpretable Model-agnostic Explanations (LIME) を提案されている．本論文では，識別結果に寄与する特徴のパターンを2分決定図で表現するLIMEを提案する．本手法では，説明モデルを特徴のパターンの集合とすることで，2分決定図による識別パターンの可視化を実現する．そして，計算機実験によって提案手法の有効性を検証した．