連続セミナー2026「実世界に広がるAI:情報技術の融合と社会展開」
第8回【10月9日(金) 13:00-15:50】 ※オンライン開催(Zoomウェビナー)
ハックされる心:AI・情報技術が揺さぶる人間の認知・意思決定
生成AIに代表される情報技術の急速な発展は、人間の認知・意思決定に深く影響を及ぼしつつある。生成AIの悪用により、フェイクニュースやフェイク動画像(ディープフェイク)が容易に作れてしまう問題は、既に顕在化しており、本連続セミナーでも過去複数回取り上げている。そこでは情報の真偽判別と、偽情報を用いて人をだますという行為に焦点が当てられることが多かった。今回はそこからさらに踏み込んで、真偽両方の情報を織り交ぜて、ある種の物語(ナラティブ)を信じ込ませることで、人の気持ちや信念を誘導する行為、認知戦や影響工作といった活動に着目する。このような心や脳をハックされるという問題を理解し、これにどう備えることができるかを論じる。
-
[13:00-13:10]オープニング

開催趣旨・背景動向とプログラム概要を紹介する。
福島 俊一(国立研究開発法人 科学技術振興機構 研究開発戦略センター フェロー)
【略歴】1982年東京大学理学部物理学科卒業、NEC入社。以来、中央研究所にて自然言語処理・情報検索等の研究開発・事業化に従事。1992年情報処理学会論文賞、1997年情報処理学会坂井記念特別賞、2003年オーム技術賞等を受賞。2011~2013年東京大学大学院情報理工学研究科客員教授。2016年から科学技術振興機構研究開発戦略センターフェロー、人工知能分野を中心に研究開発動向の俯瞰的調査・戦略提言を担当。工学博士、情報処理学会フェロー。 -
[13:10-13:55]Session1「ニュースの信頼と影響工作」

インターネットとSNSの普及により、ニュースの流通構造は大きく変化した。「こたつ記事」に代表される低コストで拡散しやすい記事は、匿名のSNS投稿や海外メディアといった不確実性の高い情報源を利用していることも多い。これらのニュース記事は、影響工作に脆弱なだけでなく、事象の一部を切り取ったり、再構成したりすることで文脈を変化させることで影響工作に利用できる構造を有している。さらに生成AIの普及により、SNS投稿や記事だけでなく、ニュースサイトそのものを量産することで「世論」をつくりだすことが可能になっている。量産されるニュースはアルゴリズムにより一人ひとりに届けられ、「デイリーミー(DailyMe)」の状態となり、従来ニュースが担っていた社会の共通基盤が失われ、社会の分断を生み出している。現代のニュース流通構造の脆弱性を整理した上で、ニュースの信頼をどのように再構築していくべきかを考える。
藤代 裕之(法政大学 社会学部メディア社会学科 教授)
【略歴】広島大学文学部哲学科卒業、立教大学社会デザイン研究科前期課程修了。徳島新聞で社会部や文化部の記者。NTTレゾナントでニュース編集や研究所のR&D(gooラボ)を担当した。編著に『フェイクニュースの生態系』『ソーシャルメディア論・改訂版』、著書に『ネットメディア覇権戦争-偽ニュースはなぜ生まれたか』など。 -
[13:55-14:05]休憩
-
[14:05-14:50]Session2「認知戦とコグニティブセキュリティ」

これまでの歴史において、戦時下における武力攻撃を補完する作戦として宣伝戦や心理戦が用いられてきた。近年、インターネットの発展に伴い平時からサイバー空間における情報戦が展開され、脳神経科学の発展に伴いサイバー空間を経由して人の認知的脆弱性を悪用する認知戦の脅威が増している。本講演では、認知戦の手段として用いられることが多いディスインフォメーション(偽・誤情報)を中心に、それらが人の認知に及ぼす影響について心理学観点から解説し、対策としての「コグニティブセキュリティ」を紹介する。
鈴木 悠(国立研究開発法人 情報通信研究機構 サイバーセキュリティ研究所サイバーセキュリティ研究室 専門研究員)
【略歴】2025年情報セキュリティ大学院大学情報セキュリティ 研究科博士後期課程修了。博士(情報学)。2006年に株式会社ラック入社。2018 年より研究職に従事。同社ナショナルセキュリティ研究所副所長を経て、2021年 より国立研究開発法人情報通信研究機構に出向中。情報セキュリティ大学院大学 兼セキュアシステム研究所客員研究員。情報処理学会電子化知的財産・社会基盤 研究会幹事。総務省サイバーセキュリティタスクフォース構成員。
-
[14:50-15:00]休憩
-
[15:00-15:45]Session3「認知過程の自由と神経法学(仮題)」
調整中
小久保 智淳(慶應義塾大学)
-
[15:45-15:50]クロージング
福島 俊一(国立研究開発法人 科学技術振興機構 研究開発戦略センター フェロー)

