ソーシャルメディアや口コミサイトの普及により，消費活動におけるユーザ分析の重要性は強まっている．一方で，ユーザレビューの数も増加しているため，人手による分析は困難となっている．この問題を解決するためには，機械的な分析が必要である．
BERTは2018年に公開された，自然言語処理における事前学習モデルである．その汎用性の高さから8つのベンチマークタスクでSoTAを達成した．本論文では，宿泊施設のユーザレビューに対する，BERTを利用した評価値予測について述べる．1つのレビューに対して複数あるカテゴリの評価値を予測し，予測モデルの評価を行った．