抄録
CC-001
安全検証を利用したセキュリティ機能の実現 ―セキュリティと機能安全の両立のために―
金川信康(日立)
ディープ・ラーニングを初めとする人工知能は人知を超えた最適解を提供してくれるが,その安全性は必ずしも保証されたものではない。そこで人工知能の動作の安全性を検証,保証する技術を付加することにより,人知を超えた安心・安全な最適解を得られることが期待される。報告者らが提案した安全検証型適応制御によれば,AIに安全検証機能を付加することにより,より安全に制御に適用できるが,安全とセキュリティの両立も今後,重要な課題となる。そこで報告者らは、脆弱性を解消するための速やかなバージョンアップとバージョンアップの安全性の検証の両立をさせ,さらには相互協調させるために,安全検証機能活用セキュリティ方式を提案した。提案方式により,全ての場合において,安全検証を強化することにより,危険事象が発生しないことを机上検討により示した。