情報処理学会 第84回全国大会 会期:2022年3月3日~5日 情報処理学会 第84回全国大会 会期:2022年3月3日~5日

6T-03
XAIを用いたノイズに頑健なモデル構築手法の提案
○川端祐也,市川嘉裕,山口智浩(奈良高専)
敵対的サンプル(Adversarial Example)による攻撃に対しての最善策としてAdversarial Trainingが注目されている.しかし,この手法は通常の学習手法で作成されるモデルよりノイズに対しての認識精度が下がる傾向にあり,精度と頑健性はトレードオフの関係であることがわかっている.
 本研究では,ノイズを含む対象に対する認識精度を上げる手法の提案を目的とする.そのために,学習済みのモデルに対してXAI手法の1つであるSHAPを適用して,モデルを欺くのに効果的なノイズを加えたデータを生成し,それを学習データとして再学習させる手法を提案する.敵対的サンプル等を含むノイズのある対象に対して,再学習したモデルの認識精度が向上するかどうかを検証する.