人工知能（AI）分野の研究開発動向は、2回に分けて解説する。2回目の今回は、「信頼されるAI」のための技術開発や政策動向を概観する。まず、AI技術が様々な場面で使われるようになったことで、ブラックボックス問題、差別・偏見問題、脆弱性問題、品質保証問題、フェイク問題など、AI応用システムの信頼性に関わる問題が指摘されるようになってきた。AIに対する社会的要請としてAI社会原則・AI倫理規範が国際的にも議論されるようになった。AIに関するこのような問題に対する多面的な技術開発の状況について解説する。

情報技術とロボティクスの導入によって実験、理論、計算、データという4つの主要な科学的方法論を融合し飛躍的に進展を加速するいわゆるAI駆動型科学は、「第5の科学領域」として有望視されている。我々は、AI駆動型科学の起点として生命科学分野が有望であると考え、細胞生物学実験のロボット化や実験プロトコル記述言語処理系の開発、自動実験計画による実験システムの完全自律化、さらにデータ駆動とモデル駆動の融合による仮説生成の自動化などを試みてきた。既に再生医療領域におけるiPS細胞の分化誘導条件の自動発見や、コロナ禍において遠隔実験を活用した新たな研究スタイルの提案などで実績を積んできた。国際動向や材料科学など分野での進展も含め、科学の自動化に向けた最新の状況をご紹介する。

社会システム科学とは、Society 5.0が目指す社会における社会システムに関する科学技術である。社会システムの安定的な挙動に向けた、設計、公正、監視、運用、制御、可視化、模擬および適切なメカニズムデザインにより、社会システムに柔軟性とレジリエンスを付与することを目指している。Society 5.0は、IoTやAIといった情報技術を活用して、サイバー空間とフィジカル空間を高度に融合させ、経済発展と社会課題解決を両立させる社会であり、Society 5.0で実装される社会システムも、サイバー空間とフィジカル空間の両方を考慮する必要がある。特にフィジカル空間である社会を正しく理解することが必須であり、情報科学技術だけでなく、社会科学との連携が求められる。本講演では研究開発領域として、社会システムアーキテクチャ、メカニズムデザイン、計算社会科学、サービスサイエンス、デジタル革新の動向を俯瞰する。

情報システムや情報サービスの安全性を確保するためのセキュリティーと、それらを安心して利用できるように信頼を確保するためのトラストという二つの側面から研究開発動向を俯瞰する。情報システムや情報サービスは進歩・発展を続けており、我々の生活に欠かせない存在になっている。このため、悪意ある第三者の攻撃から情報システムや情報サービスを保護するためのセキュリティー、および人や社会がそれらを安心・信頼して受け入れることができるかというトラストが重要になってきている。