AI技術が高度化し、その能力が強大になるにつれ、社会に対するインパクトも大きなものとなり、このため、AIを適切にガバナンスし、または規制しようとする動きが世界的に生じてきています。本講演では、このような世界におけるAIガバナンス・規制政策の生成・進化のメカニズムについては説明するとともに、最新の動向について読み解きます。具体的には、技術の進展に伴い、技術ガバナンス制度が生成・発展するメカニズムと、特にAI技術の場合の特徴を説明したあと、第三次AIブーム以降の世界のAIガバナンス・規制政策の動きを振り替えるとともに、その世界的な多様性の要因を明らかにします。その上で、今般の生成AI登場以降の世界各国及び国際機関におけるAIガバナンス・規制政策に係る最新の動向及びその全体像について説明し、今後の世界・日本のAIガバナンス政策の方向について、読み解きます。

AIプロダクト・サービスの企画や開発、提供に対しては、そのリスクが広く議論され、国際標準や欧州などによる要請も強くなっています。しかし国内では2019年前後においてすでに、QA4AI、AIQMといったAI品質に関するガイドラインが公開されており、AIリスクを踏まえた品質マネジメントに関する対応指針がある程度根付いてきました。これまでの指針は、教師あり学習技術によるAIを中心としたものでしたが、大規模言語モデル（LLM）に基づいた対話型生成AIの品質についても多くの動きが出てきました。本講演では、従来型のAIに関する品質マネジメントの指針を振り返りつつ、対話型生成AIの品質に関する動向を論じます。

本講演では、AGI（汎用人工知能）の定義とその実現に向けた課題やリスクについて述べる。AGIの出現要素時期は数年年から100年程度と幅があるが、自己再帰的改善により急速に超知能へと発展し知能爆発至る可能性もある。こうした超知能による知能爆発のリスクが懸念されている。このリスクを一部の人々は深刻に捉えているが、経験したことのないリスクに対策を講じるモチベーションを持つことは難しい。そのため、予防原則に基づく先制的な対策や、異分野協働によるリスク評価と対策立案、一般市民への啓発活動などが求められている。また、AGIの目的や価値観を人類の利益に沿ったものにするというAIアライメントの取り組みも重要である。一方、AGIによる技術革新や経済発展の可能性、競争原理などを考慮すると、その開発は不可避とも考えられる。したがって、AGI開発とリスク管理のバランスを取るガバナンスも必要である。本講演が、AGIの可能性とリスクについて理解を深め、人類の英知を結集して取り組むきっかけをあたえられれば幸いである。