情報処理学会 第88回全国大会

5M-07
普遍的防御摂動を用いた再攻撃型敵対的防御の基礎検討 - 正常訓練事例のみを活用した摂動の設計とその特性の解析 -
○堀之内響,横手優一郎,秋本一樹,森本文哉,小野智司(鹿児島大)
深層ニューラルネットワーク(Deep Neuron Network: DNN)には,微小かつ特殊な摂動が加えられた敵対的事例(Adversarial Examples: AE)を誤認識してしまう脆弱性が存在する.この脆弱性はDNNの実世界への応用を阻害する恐れがあり,AEに対する防御手法が研究されている.本研究では,入力されたAEに対して,再度攻撃を行うことにより,入力事例の敵対性を緩和する方式を提案する.正常訓練事例のみを用いてブラックボックス的に普遍的防御摂動を設計することができることを示すとともに,DNNモデルの中間層の活性化状況を調べることで摂動の特性を解析する.