6B-03
生成型大規模言語モデルの文書分類タスクにおける信頼度推定と曖昧サンプルの識別手法の提案 -レストラン評価に関するセンチメント分析を例に-
○新美潤一郎(名城大)
生成型大規模言語モデル(LLM)を用いた文書分類タスクにおいては、解析がブラックボックス化することにより、サンプルの特性と予測精度の関係性を理解しにくいという問題がある。またモデル選択にあたっても、700億パラメーター等の大規模モデルの実行には、計算資源・処理時間の双方において大きなコストが必要となる。そこで本研究では、ローカル環境で実行可能な量子化済み生成型LLMを用いたセンチメント分析にあたり、80億パラメーター等の比較的小規模なモデルで迅速な推論を行いつつ、予測が困難な曖昧サンプルのみを識別し、大規模なモデルを用いて再解析することにより、効率的かつ高精度に推論を行う分析方法を提案する。