AIシステムの産業応用、特に、人的リスクや経済的リスクを伴うミッションクリティカル領域でのAI利用の拡大には、品質マネジメントが必要不可欠である。機械学習は従来のハードウェアやソフトウェアとは異なる技術的特性を持つことから、これまでとは異なる品質の評価や管理の考え方と手法が必要とされている。AIシステムの品質マネジメントに関しては2018年頃から盛んに議論されており、国内では、AIプロダクト品質保証(通称QA4AI)コンソーシアムや、機械学習品質マネジメント(通称MLQM)委員会などが活発に活動しており、それぞれがAIプロダクトの品質に関するガイドライン等を公開している。本講演では、これらのガイドラインの紹介を中心として、AIシステムの品質マネジメントに関する論点、現在提案されている内容や方向性について説明する。

近年、AI（機械学習）は、タスクによっては人間を凌ぐ正確性を発揮し、自動運転システムや先進運転支援システムでも使われ始めている。しかし、自動運転分野では、緊急車両への衝突など自動運転中の事故が起き、規制当局による調査も始まるなど、AIが社会に浸透し始める一方で、AIの安全リスクも顕在化している。アカデミアや産業界では様々な技術開発を進めているが、まだAI製品・サービスの安全性を評価し説明する技術はなく、万が一の事故の際も完全には原因特定することはできない。そのため、AIシステムの安全性は、現時点では技術だけで解ける問題ではなく、世の中を巻き込んだルール作りも必要である。このような状況で、分野横断的な標準化活動と、産業セクターごとの標準化活動が並行で進行している。本講演では、AIシステムの安全性の課題と関連規格の世界動向を紹介する。

AIシステムの開発は大きく分けて「開発者が自らデータを収集して開発する場合」と「特定のデータホルダから開発者がデータの提供を受けて開発する場合」の2つのパターンがあり、「開発者が自らデータを収集して開発する場合」においては当該データに関する法規制や知的財産権・ライセンスや契約の処理が主として問題となる。法規制については特に個人情報を利用したAIシステムの開発（顔認証、医療システム、人事系、マーケティング系）において、どのように適法に個人情報を収集・提供・利用するかが問題になるし、知的財産権の処理に関しては、主として著作物（画像や自然言語データ及びそれらのデータベース）をAI開発に利用する場合の権利処理の方法を知っておく必要がある。さらに、利用しようとするデータにライセンスが付されている場合は当該ライセンスを正確に読み解かないと、無用のトラブルになりかねない。本講演においては具体的事例を基に以上の諸点について解説する予定である。