人工知能（AI）分野の研究開発動向は、2回に分けて解説する。2回目の今回は、「信頼されるAI」のための技術開発や政策動向を概観する。まず、AI技術が様々な場面で使われるようになったことで、ブラックボックス問題、差別・偏見問題、脆弱性問題、品質保証問題、フェイク問題など、AI応用システムの信頼性に関わる問題が指摘されるようになってきた。AIに対する社会的要請としてAI社会原則・AI倫理規範が国際的にも議論されるようになった。AIに関するこのような問題に対する多面的な技術開発の状況について解説する。

社会システム科学とは、Society 5.0が目指す社会における社会システムに関する科学技術である。社会システムの安定的な挙動に向けた、設計、公正、監視、運用、制御、可視化、模擬および適切なメカニズムデザインにより、社会システムに柔軟性とレジリエンスを付与することを目指している。Society 5.0は、IoTやAIといった情報技術を活用して、サイバー空間とフィジカル空間を高度に融合させ、経済発展と社会課題解決を両立させる社会であり、Society 5.0で実装される社会システムも、サイバー空間とフィジカル空間の両方を考慮する必要がある。特にフィジカル空間である社会を正しく理解することが必須であり、情報科学技術だけでなく、社会科学との連携が求められる。本講演では研究開発領域として、社会システムアーキテクチャ、メカニズムデザイン、計算社会科学、サービスサイエンス、デジタル革新の動向を俯瞰する。

情報システムや情報サービスの安全性を確保するためのセキュリティーと、それらを安心して利用できるように信頼を確保するためのトラストという二つの側面から研究開発動向を俯瞰する。情報システムや情報サービスは進歩・発展を続けており、我々の生活に欠かせない存在になっている。このため、悪意ある第三者の攻撃から情報システムや情報サービスを保護するためのセキュリティー、および人や社会がそれらを安心・信頼して受け入れることができるかというトラストが重要になってきている。