情報処理学会 第87回全国大会

7J-07
AIライブラリ「Ceras」を用いたエッジAI推論処理効率化
○岩永大翔,中西知嘉子(阪工大)
近年、エッジデバイスで処理を行うエッジAIが注目されている。しかし、エッジデバイスは処理性能が低いため、CPUでAI処理するのが難しいという問題点がある。そこで、Avnet社のSoC FPGAボードであるUltra96-V2を活用し、FPGAにアクセラレータを作成し、CPUによるソフトウェア処理を協調動作させた推論処理の実現を目指し、研究を行っている。協調動作を行うため、C++言語による推論ライブラリである”Ceras”を開発し、アクセラレータのためのパラメータを付加する推論モデルに特化した推論コードを自動生成するツールを開発している。本発表では、自動生成ツールの設計と実装について発表する。