情報処理学会第85回全国大会 会期:2023年3月2日~4日 会場:電気通信大学

4K-02
Google Coral Dev Boardの分散並列化によるAIアクセラレーションの高速化
○藤江涼太,並木美太郎(農工大)
近年,深層学習の普及に伴いサーバでの集中処理を行わずセンサ側で推論を行うエッジAIが,ネットワーク帯域の節約などに役立てるとして注目され始めている.
しかし,エッジ側で用いられるAIアクセラレータは消費電力などの考慮により性能が抑えられているため,大規模なモデルの使用や推論速度などに問題がある.
そこで,本研究ではAIアクセラレータの分散並列による推論速度の向上を行い,その台数効果とオーバーヘッドによる並列可能数についての検証を行う.なお,エッジデバイスにはAIアクセラレータを搭載したSoCであるGoogle Coral Dev Boardを用いており,ネットワーク分散と並列推論により,高い台数効果が確認できている.