情報処理学会 第88回全国大会

1U-08
漢字形状を持つ敵対的パッチによる物体検出AIモデルへの攻撃の提案
○冨岡佑斗,菊池浩明(明大)
AIモデルに対して人工的な矩形画像パッチを挿入することで物体検出を回避する敵対的パッチ攻撃の脅威が知られている.しかしながら,従来手法のパッチは視覚的に不自然であり察知されやすい課題があった.そこで,本研究では,日常生活に馴染む「漢字」の形状を持つ敵対的パッチ生成手法を提案する.提案手法では, 検出スコアと画像の可読性を考慮した損失関数を用いる.YOLOv2を対象にした漢字「田」を用いたパッチ生成実験により,提案手法は視覚的な自然さを保ちつつ,約44%の攻撃成功率を達成することを示した.