情報処理学会 第88回全国大会

1E-05
LLMエージェントにおける制約抽出・プロンプト再構成による制約順守率向上の検証
○岡部健太,遠藤隆夫,梅田 拓,加羽澤優,長谷 亮,乙村浩太郎,羽藤淳平(三菱電機)
近年、LLMを応用した自律的タスク遂行型のLLMエージェントが注目されている。LLMエージェントはタスクに応じて制約をプロンプトに記載し、出力を制御することがある。しかし、プロンプトには制約であると明示されていない指示や、制約が集約されていない指示が含まれる場合があり、LLMが制約を正確に把握することが困難なケースも多い。この結果、制約順守率が低下する可能性があり、タスク成功率や生成結果の信頼性に悪影響を及ぼすと考えられる。本研究では、プロンプトから制約を抽出し、それらを集約して明示的に再入力する2段階アプローチによって、LLMエージェントの制約順守率を向上させることができるかを検証した。