情報処理学会 第84回全国大会 会期:2022年3月3日~5日 情報処理学会 第84回全国大会 会期:2022年3月3日~5日

1Q-07
高速なSwin Transformer
○加古遼太郎,松井勇佑(東大)
機械学習分野は目まぐるしい発展を遂げている。Self-attentionという仕組みを用いたTransformerの登場は、自然言語処理における課題の達成に大きく貢献し、さらに画像処理分野での応用についても研究されている。画像処理に応用する上で、認識する対称は画像内で様々な大きさをとりうること、また、画像サイズが大きくなると入力の大きさは画像幅の二乗に比例し大きくなるなどの課題がある。それに対する解決策を提案しているのがLiuらによるSwin Transformerである。この論文では、このSwin Transformerの考えをベースとした更に高速な新たなネットワークを提案する。