情報処理学会 第86回全国大会 会期:2024年3月15日~17日

2C-06
チャネルマスキングによるブラックボックスモデルの解釈性向上
○飯島敏也,大西 直,土井 護,杉原堅也(三菱)
機械学習モデルの判断根拠を人間が解釈することは困難である.画像分類では,入力した特徴量の寄与度を算出して,判断根拠を可視化することにより解釈を補助する手法があるが,画像の画素やチャネルには物体に関する情報がないため,寄与度をもとに人間が解釈を行う必要がある.また,判断根拠の可視化には多数の試行が必要である.そこで本稿では,対戦ゲームなどの作戦を予測する機械学習モデルの判断根拠の解釈性向上を目的として,対戦環境情報を位置や行動などの情報を持つチャネルに分け,特定のチャネルをマスクして寄与度を算出するチャネルマスキングにより,解釈性取得までの試行回数を削減しながら解釈性を向上する手法を提案する.