情報処理学会 第88回全国大会

7U-07
普遍的防御摂動を用いた再攻撃型敵対的防御の基礎検討 - 正常事例と敵対的事例を活用した摂動の設計 -
○横手優一郎,堀之内響,秋本一樹,森本文哉,小野智司(鹿児島大)
深層ニューラルネットワークには,微小な摂動を含む敵対的事例(Adversarial Example: AE)を誤認識する脆弱性が存在しており,モデルの内部情報を用いずにAEを生成するブラックボックス(Black-Box: BB)攻撃手法も提案されている.一方,多くの防御方式はモデルの内部情報を利用するため,商用モデルなどのBBモデルに適用することが難しい.このため本研究では,BB条件下でAEからモデルを防御する手法を提案する.本手法は,正常事例とAEの双方を用いて設計した普遍的防御摂動を入力に付加することで再攻撃を行い,正常事例の分類性能を維持しつつAEの誤分類を抑制する.