近年，ChatGPTをはじめとする大規模言語モデル（LLM）が広く使用されるようになった．さらに，技術の発展によりLLM技術を応用したAIエージェントが登場し始めている．AIエージェントには，外部のツールや知識を利用したり，他のエージェント等と相互作用しながら動くものが存在する．このようなAIエージェントは，相互作用の過程で非安全事象を起こし得ることがわかってきた．故に，AIエージェント設計時に要素間の相互作用の安全分析が必要になる．そこで，本稿では，システム理論に基づいた安全性解析手法であるSTAMP/STPAを軸に行うAIエージェントの安全性設計について提案する．