情報処理学会 第84回全国大会 会期:2022年3月3日~5日 情報処理学会 第84回全国大会 会期:2022年3月3日~5日

7V-02
Auxiliary Classifier GANを利用した敵対的サンプル生成手段の検討
○野久雅人(立命館大)
深いモデルをだますことができる敵対的な例は、主に人間の目には知覚できない小さな摂動を追加することによって作成されます。文献には、敵対的な摂動を生成するためのさまざまな最適化ベースの方法があり、そのほとんどは時間がかかります。IJCAI 2018にXiaoらによって提案されたAdvGANは、生成的敵対的ネットワーク(GAN)を使用して、入力として元の画像を使用して敵対的摂動を生成します。この手法は、推論時に最適化ベースの方法よりも高速です。ただし、AdvGANはトレーニングでターゲットクラスを修正するため、元の画像がターゲットクラスを誤認識するように訓練すると、AdvGANをトレーニングするのが困難になります。また、black-boxでの攻撃を行う際に攻撃成功率が大幅に低下します。この論文では、この問題を解決するために、異なるトレーニング戦略を備えた攻撃に触発されたGAN(ACAdvGAN)を提案します。 実験を行い、MNISTでのACAdvGANのパフォーマンスを評価します。 AdvGANと比較して、ACAdvGANは、black-box条件下で、かつ同様の摂動の大きさでより高い攻撃成功率を達成します。