6J-05
階層型行列法における混合精度演算に関する評価
○棗 恒輝,星野哲也(名大),伊田明弘(海洋研究開発機構),岩下武史(京大),河合直聡,片桐孝洋,永井 亨(名大)
階層型行列法(H行列法)は、対象となる密行列を複数の部分行列に分割し、部分行列の一部を低ランク近似する近似手法である。行列の一部を低ランクで近似することでメモリ使用量と計算量を大幅に削減することができ、電磁場解析や地震シミュレーションに用いられている。
本論文では、H行列生成とH行列ベクトル積において単精度と倍精度を用いた混合精度演算を行い、H行列の要求近似精度との関係を調査した。性能評価には静電場解析を用い、H行列の要求近似精度を変えていった時のH行列生成の時間や生成されたH行列の使用メモリサイズ、行列ベクトル積の時間やBiCGSTABの収束率について、スーパーコンピューター不老を用いて評価した。