大規模言語モデルの驚異的な知的能力の高さが社会に衝撃を与え、スケーリング則に勇気づけられてさらに大規模化した言語モデルが社会に爆発的に浸透し始めている。また、複雑とされていた囲碁や将棋においても、敵対的な深層強化学習を通じてAIが人間の能力を凌ぐ能力を獲得できることが実証されている。今後、高度な専門技能が要求されるサイバー攻撃対応においても、AIが人間の能力を超えた性能を発揮することが期待できる。米国防高等研究計画局(DARPA)もAIサイバーチャレンジ(AIxCC)を立ち上げ、同分野の活性化を推進している。本講演では、それらの最新動向を紹介すると共に、大規模言語モデル(LLM)により自律的にサイバー攻撃に対応するシステム（自律サイバー推論システム）の可能性を調査した結果を報告する。

AIの社会実装が進むなか、AI自体のセキュリティが注目されるようになった。いわゆるSecurity for AIである。これは、半導体技術、ICT、センサー・IoT、ソフトウェア工学などの伸展で引き出された深層学習や機械学習の潜在能力の高さが根本にある。膨大なデータと計算資源を投入されたAIは大きな価値を生む情報資産であり、この機密性、完全性、可用性を担保することが重要な社会課題である。AIセキュリティを考える上で、従来のソフトウェアとどう異なるのかを正しく理解し、そこに潜むリスクと脆弱性を把握することから始め、適切なAI開発や安全な運用に向けた対策を講じる必要がある。また、高度に発展したAI技術が社会実装されてシステムと一体化するなか、従来のソフトウェアとの違いが意識されなくなる時代がいずれやって来る。我々はどのように安全・安心な社会を維持できるのか、本講演では、この観点からAIセキュリティについて考える。

選挙や紛争、災害における、偽誤情報拡散による情報汚染への懸念が高まっています。偽誤情報は、世論を武器化する認知戦のツールとなります。その後押しをするのが、生成AIの急速な普及です。偽誤情報の大規模化、低コスト化、巧妙化、迅速化が指摘されます。AIで生成した偽画像・偽動画「ディープフェイクス」や偽装サイトなどの氾濫は、真偽の境界を曖昧にし、情報空間への信頼を揺るがせています。偽誤情報にまつわるAIリスクと対策の現状を整理します。