6ZA-08
投光型再攻撃による敵対的事例の矯正に関する基礎検討
○前野圭飛,有村玲音,向田眞志保,小野智司(鹿児島大)
深層ニューラルネットワーク(Deep Neural Network: DNN)には,微小な変更が加えられた入力である敵対的事例を誤認識してしまう脆弱性が存在する.この脆弱性により,自動運転における標識認識などの実社会システムへ適用するリスクが懸念されるため,敵対的事例に対する頑健性向上を目的とした防御手法が研究されている.しかし,いずれもデジタル領域での防御にとどまり,課題として敵対的な情報をシステムに入力することや装置化されたシステムへの適用困難性がある.本研究では,DNNへの物理的な敵対的攻撃の影響を弱めることを目的として,対象シーンへ物理的に摂動光を投影する投光型敵対的防御手法を提案する.