本稿では俳句生成のためLSTMをベースとした言語モデルであるAWD-LSTMおよびTransformerをベースとした言語モデルであるGPT-2を用いて，既存の俳句作品や青空文庫の作品から学習を行った．
学習した言語モデルに対してパープレキシティの値を比較した．また，学習した言語モデルにより生成された俳句に対して季語数，音数，切れ字数などに制約を持つ有季定型句の制約を満たす割合を指標として評価した．俳人によりランク付けされた俳句データを用いて，言語モデルにより計算された対数尤度と俳人によるランクとの一致度合いを評価した．
これらの評価の結果，俳句生成において，AWD-LSTMに対するGPT-2の優位性を確認した．