AIの普及に伴い、医療診断支援や自動運転など様々な分野で人とAIの協働が実現されている。効果的な協働にはXAIによる説明提供が不可欠だが、協働関係は時間経過とともに動的に変化する。従来のXAI評価手法は静的関係性を前提とし、動的変化への対応が不十分である。本研究では、人とAIの協働関係に基づき各関係性の責任構造に応じた重要な評価観点を体系化した。監督段階では正確性・完全性、指導段階では一貫性・コンテクスト、対等協働段階では対比性・連続性を重視する。また、協働関係の変化に対応し評価観点を動的に調整するXAI評価手法を提案した。自動運転システムへの適用により評価観点を明確化できることが示唆された。