深層学習を用いた異常検知手法は，その検出精度や様々なドメインにおける汎化性能の高さから注目を集めている．一方で，その評価や解析は画像・画素単位の検出精度の測定にとどまっており，信頼性や安全性の課題を抱えている．
そこで本研究では，Sparse Autoencoder（SAE）を用いて，検出器の内部表現を疎な表現に変換することで，検出器に対する内部機序の解析を試みる．SAEを用いることで，内部表現の多義性の問題を解消し，介入操作を通して個々のニューロンの役割を解析できる．本研究の実装はhttps://github.com/daiki-hlab/AnalyzeADModelにて公開する．