自動楽曲生成モデルにおいて2019 年に Google が発表した、自身が開発した ディープニューラルネットワークモデル の「Transformer」を利用した自動楽曲生成プログラム「Music　Transformer」により、以前にはできなかった「フレーズの繰り返し」、「フレーズの終わりの自然さ」などの表現が可能になった。本研究では限られた小規模のデータセットで学習を行い楽曲を生成すると、Transformerが表現できるようになった特徴が出現するのか、これまでメジャーだった自動楽曲生成モデルよりも好まれる楽曲が生成されるのかを、Transformer発表前に主に使われていた自動楽曲生成モデルである「LSTM」と比較する。