情報処理学会 第88回全国大会

1G-01
マルチエージェントシステムにおける動的な信頼回復とPost-Compromise Securityの適用検討
○八槇博史,亀谷広務,矢嶋峻矢(電機大)
LLMを中核とするマルチエージェントシステム(MAS)において、プロンプト注入等による構成要素の侵害は不可避な脅威となりつつある。従来、侵害されたエージェントはシステムから永久に排除されるのが一般的であったが、高コストなLLMエージェントの喪失は可用性を著しく損なう。本研究では、侵害されたエージェントを単に排除するのではなく、暗号学的および社会的な手順を経て再統合(Reintegration)させる「ポストコンプロマイズセキュリティ」のアーキテクチャを提案する。攻撃耐性とシステム全体のレジリエンスを両立させるための設計要件について論じる。