情報処理学会第85回全国大会 会期:2023年3月2日~4日 会場:電気通信大学

4ZD-01
クリーンラベルバックドア攻撃に関する基礎的検討
○目黒 諒(東北大),加藤広野,成定真太郎,披田野清良(KDDI総合研究所),内林俊洋(九大),菅沼拓夫,樋地正浩(東北大)
AIに対する攻撃の一例として、グラフニューラルネットワーク(GNN)に対する攻撃が注目されつつある。本研究では特に、GNNに対するバックドア攻撃に着目する。バックドア攻撃においては、ラベルを付け替えた毒データを学習データに混入させることで攻撃を行う手法があるが、この手法では毒データの特性はラベルと整合性がないため、外れ値として毒データが検知される可能性が高いという問題がある。これに対しラベルを付け替えないクリーンラベルによるバックドア攻撃はその問題を回避できるが、その攻撃手法に関しては未だ十分に明らかにされていない。本発表では、GNNにおけるクリーンラベルによるバックドア攻撃に焦点を当て,その実現可能性について攻撃シナリオや攻撃性能などのさまざまな観点から議論する。