本稿では、特に自然言語処理分野において大きな成功を収めているTransformerを用いて、良いメロディ悪いメロディの二値分類を行うモデルを作成し、メロディを生成する手法を提案する。ランダム入力データのメロディに対して、モデルがより良いメロディと判断されるようにトークンの変更を繰り返すことで、学習済み二値分類モデルからメロディを生成する。また、生成されたメロディが悪いメロディに感じた場合、そのメロディを悪い学習データに追加し再び学習させる。提案する方法が、ランダム入力データと比べ生成メロディの品質の向上に有効であるかどうかを、主観評価および生成メロディの分析により確認する。