情報処理学会 第81回全国大会講演要旨

ディープニューラルネットワーク（DNN）は現在、様々な分野で広く使用されている。 しかし、多数の研究によって、最先端のDNNシステムも様々な脆弱性に悩まれでいるから、実際のアプリケーションに適用すると重大な結果につながることが示されている。このため、DNNがまだ不安定であり、伝統的なソフトウェアのように多くテストされる必要がある。
今度の発表は、遺伝的アルゴリズムでDNNの脆弱性が発見できる方法を紹介する。この方法は入力に小さい変化を追加して、DNNの出力に間違って分類させる可能性がある。さらに、この遺伝的アルゴリズムに基づいてDNNを自動的なテスト方法も提案する。