情報処理学会 第81回全国大会講演要旨

近年、さまざまな領域で、人工知能、とりわけ機械学習システムの活用にかかる検討が進んでいる。機械学習システムには、情報システム一般に存在する脆弱性に加え、特有の脆弱性も存在する。機械学習システムを安全かつ安定的に利用していくためには、こうした脆弱性を悪用する攻撃について、予め対策を十分に検討しておくことが肝要である。本発表では、想定しうる機械学習システムの構成を分類・整理したうえで、各構成における脅威・リスクと対策を分析する。