Interactive dense pixel visualizations for time series and model attribution explanations

要約

ディープ ニューラル ネットワーク モデルの説明可能な人工知能 (XAI) の分野は大幅に発展し、モデルから説明を抽出するための多数の技術を提供しています。
ただし、説明の評価は簡単ではないことが多く、特に理解できないデータの場合、適用される指標の違いは微妙な場合があります。
したがって、時系列などのデータを使用してドメインの説明を調査するために調整された視覚化が必要です。
私たちは、生の時系列データ、ニューラル ネットワークの活性化、および高密度ピクセル視覚化での属性を調査して、データ、モデルの決定、説明についての洞察を得る対話型の視覚分析アプローチである DAVOTS を提案します。
ユーザーによる大規模なデータセットの探索をさらにサポートするために、視覚化されたデータ ドメインにクラスタリング アプローチを適用してグループを強調表示し、個別および組み合わせたデータ探索の順序付け戦略を提示して、パターンの発見を容易にします。
このアプローチを実証するために、FordA データセットでトレーニングされた CNN を視覚化します。

要約(オリジナル)

The field of Explainable Artificial Intelligence (XAI) for Deep Neural Network models has developed significantly, offering numerous techniques to extract explanations from models. However, evaluating explanations is often not trivial, and differences in applied metrics can be subtle, especially with non-intelligible data. Thus, there is a need for visualizations tailored to explore explanations for domains with such data, e.g., time series. We propose DAVOTS, an interactive visual analytics approach to explore raw time series data, activations of neural networks, and attributions in a dense-pixel visualization to gain insights into the data, models’ decisions, and explanations. To further support users in exploring large datasets, we apply clustering approaches to the visualized data domains to highlight groups and present ordering strategies for individual and combined data exploration to facilitate finding patterns. We visualize a CNN trained on the FordA dataset to demonstrate the approach.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google