H-023
画像データ向けlocal XAI結果の集計方式の提案

○浜　直史・森　靖英（日立）・和久井一則（日立産業制御ソリューションズ）

AI 開発において、AI の精度改善に必要な情報を得る方法の1 つとして、AI の判断根拠を抽出するXAI (eXplainable AI)技術が注目されている。精度改善には多数のXAI 適用結果の集計が必要だが、入力が画像の場合、集計観点ごとにXAI 適用結果をフィルタする抽出基準の作成が課題となる。我々は集計観点ごとの抽出基準となるXAI パーツパターンを定義し、一部のXAI 適用結果から半自動的に作成する手法を提案する。また、オープンデータを用いた原理検証実験の結果、妥当でない推論根拠でAI が正答するデータを抽出し非自明な誤判定リスクを特定可能な抽出基準を作成できる見込みを得た。