連続セミナー2023「人とAIが共生する社会に向けた情報技術」

  • シェアする
  • ツイート
  • noteで書く
  • LINEで送る
参加申込はこちら
開催記事はこちら

第1回【6月15日(木) 10:00~12:00】

AIセキュリティ -AIの脆弱性からシステムを守る-


近年、AIを利用した多くの製品やサービスが世の中に浸透し、AIの意思決定が人々の生命や多くの産業に影響を与えるものになっている。AIによる意思決定から人間が徐々に排除されていく中で、設計原理としてAIセキュリティを考慮する必要性が高まっている。本セミナーではAIセキュリティをテーマに全2回にわたって、AIの脆弱性からシステムをいかに守るか、インフォデミックからいかに人々を守るかについて考える。
  • [10:00-10:40]Session1「AIセキュリティの研究動向」

    大塚 玲

    AIの驚異的な進化に伴い、徐々にAIの意思決定が人々の生命や産業に与える影響が高まっており、今や、情報セキュリティを考える上でAIのセキュリティは避けては通れない重要な研究テーマになっている。本講演ではAIセキュリティの研究動向と題して、特に研究が活発なデータポイズニング(data poisoning)、モデル盗用(model stealing)、敵対的サンプル(adversarial examples)を中心に、最近の研究動向を概観する。これらには偽の医療データを訓練データに混入した誤診の誘発、バックドアをモデルに埋め込む攻撃、訓練に用いた個人情報を抽出する攻撃、交通標識に摂動(ノイズ)を加えて自動運転者を混乱させる攻撃などが含まれる。特に本講演では、研究課題の本質に迫りつつも、以降の講演でより詳細に述べられる課題の研究上の位置づけが分かるように配慮し、平易に解説することを試みる。

    大塚 玲(情報セキュリティ大学院大学 情報セキュリティ研究科 教授)

    【略歴】1991年大阪大学工学研究科博士前期課程修了。2002年東京大学大学院工学系研究科電子情報工学専攻博士課程修了。博士(工学)。2005年4月より産業技術総合研究所。2017年4月より情報セキュリティ大学院大学教授。電子情報通信学会、情報処理学会、IEEE、IACR、IFCA各会員。電子情報通信学会バイオメトリクス研究専門委員会(BioX)顧問。JNSAサイバーセキュリティ産学連携協議会チェア。人工知能学会安全性とセキュリティ研究会(SIG-SEC)主幹事。
  • [10:40-10:45]休憩

  • [10:45-11:15]Session2「AI開発者向けの機械学習システムセキュリティガイドライン」

    矢嶋 純

    近年、AIの誤判断、訓練データ漏洩、訓練済みモデル漏洩などを引き起こすAI特有の攻撃の存在が指摘され、国内外で研究が盛んに行われている。このような攻撃から機械学習システムを守るために開発者が取るべき対応、対策をまとめた機械学習システムセキュリティガイドラインが機械学習工学研究会(MLSE)の機械学習セキュリティWGより、2022年に発行されている。本ガイドラインは、本編、リスク分析編、付録の3編のドキュメントとリスク分析ツールより構成されている。本発表では3編のドキュメントの概要を説明するとともに、リスク分析編に掲載されているセキュリティリスク分析技術に関して、技術の概要とツールについて説明する。

    矢嶋 純(富士通株式会社 富士通研究所 AIトラスト研究センター プリンシパルリサーチャー)

    【略歴】1999年中央大学大学院理工学研究科修士課程修了。同年株式会社富士通研究所に入社し、暗号技術、自動車セキュリティ、機械学習セキュリティ等の研究開発に従事。2021年情報セキュリティ大学院大学情報セキュリティ研究科博士後期課程修了。博士(情報学)。2022年より日本ソフトウェア科学会機械学習工学研究会(MLSE)機械学習セキュリティWG幹事。
  • [11:15-11:20]休憩

  • [11:20-11:50]Session3「自動車業界におけるAI Safety動向」

    中神 徹也

    近年、AI(機械学習)は、タスクによっては人間を凌ぐ正確性を発揮し、自動運転システムや先進運転支援システムでも使われ始めている。AIの活用先が拡大する一方で、横断中の歩行者や緊急車両への衝突など、自動運転中の事故も発生しており、規制当局による調査も始まるなど、AIの安全リスクも顕在化している。AIの安全リスクに対する技術開発も進められているが、AIシステムの安全性を評価し説明する技術はなく、万一の事故の際にも完全には原因を特定することはできない。そのため、AIシステムの安全性は、現時点では技術だけで解ける問題ではなく、世の中を巻き込んだルール作りも必要である。このような状況で、分野横断的な標準化活動と、産業セクターごとの標準化活動が並行して進行している。本講演では、AIシステムの安全性の課題と関連規格の世間動向を紹介する。

    中神 徹也(株式会社デンソークリエイト 研究開発部 機械学習準スペシャリスト)

    【略歴】愛知県立大学大学院修士課程を修了後、2017年に株式会社デンソークリエイトに入社。入社後は、AIを用いた異常検知技術を車載システムに組み込む際の技術開発に従事。その後、深層学習を用いた画像圧縮手法の研究に取り組み、研究成果を「第23回 画像の認識・理解シンポジウム」で発表。現在は、株式会社デンソーのAI品質保証プロセス開発に従事。
  • 桑島 洋
    桑島 洋(株式会社デンソー ソフト生産革新部 担当課長)

    【略歴】2008年大阪大学大学院工学研究科電気電子情報工学専攻修士課程修了。マイクロソフトディベロップメント株式会社、スタンフォード大学訪問研究員を経て、デンソーでAI品質・安全の研究開発、社内プロセス構築、国際標準化に従事。2023年東京工業大学工学院システム制御系博士後期課程修了。博士(工学)。ISO/IEC JTC 1/SC 42, ISO/TC 22/SC 32/WG 14エキスパート、自動車技術会機能安全分科会AI/ML小委員会副主査、国立情報学研究所外来研究員、産業技術総合研究所AIQM検討委員会委員。
  • [11:50-12:00]クロージング

    大塚 玲
    大塚 玲(情報セキュリティ大学院大学 情報セキュリティ研究科 教授)

    【略歴】1991年大阪大学工学研究科博士前期課程修了。2002年東京大学大学院工学系研究科電子情報工学専攻博士課程修了。博士(工学)。2005年4月より産業技術総合研究所。2017年4月より情報セキュリティ大学院大学教授。電子情報通信学会、情報処理学会、IEEE、IACR、IFCA各会員。電子情報通信学会バイオメトリクス研究専門委員会(BioX)顧問。JNSAサイバーセキュリティ産学連携協議会チェア。人工知能学会安全性とセキュリティ研究会(SIG-SEC)主幹事。

  • 参加申込はこちら
  • シェアする
  • ツイート
  • noteで書く
  • LINEで送る