STX-Search: Explanation Search for Continuous Dynamic Spatio-Temporal Models

要約

時空モデルの表現力の最近の改善により、トラフィック予測やソーシャルネットワークモデリングなど、多くの現実世界のアプリケーションでパフォーマンスの向上が生じています。
ただし、モデルからの予測を理解することは、特にヘルスケアや輸送などのリスクの高いアプリケーションで信頼性と信頼性を確保するために重要です。
連続時間動的グラフデータでトレーニングされたモデルの説明を生成できる既存の方法はほとんどありません。これらのうち、計算の複雑さと適切な説明目標の欠如が課題を引き起こします。
この論文では、$ \ textbf {s} $ patio-$ \ textbf {t} $ emporal e $ \ textbf {x} $ planation $ \ textbf {search} $（stx-search）を提案します。
新しい検索戦略と客観的機能を紹介し、非常に忠実で解釈可能な説明を見つけます。
既存の方法と比較すると、STX-Searchは、解釈可能性を維持するために説明サイズを最適化しながら、より高い忠実度の説明を生成します。

要約(オリジナル)

Recent improvements in the expressive power of spatio-temporal models have led to performance gains in many real-world applications, such as traffic forecasting and social network modelling. However, understanding the predictions from a model is crucial to ensure reliability and trustworthiness, particularly for high-risk applications, such as healthcare and transport. Few existing methods are able to generate explanations for models trained on continuous-time dynamic graph data and, of these, the computational complexity and lack of suitable explanation objectives pose challenges. In this paper, we propose $\textbf{S}$patio-$\textbf{T}$emporal E$\textbf{X}$planation $\textbf{Search}$ (STX-Search), a novel method for generating instance-level explanations that is applicable to static and dynamic temporal graph structures. We introduce a novel search strategy and objective function, to find explanations that are highly faithful and interpretable. When compared with existing methods, STX-Search produces explanations of higher fidelity whilst optimising explanation size to maintain interpretability.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google