Deep Model Interpretation with Limited Data : A Coreset-based Approach

要約

モデル解釈の目的は、学習済みモデルの内部から洞察を抽出することである。このタスクに対処するための一般的なアプローチは、モデルの適切な動作に不可欠な、モデル内部にエンコードされた関連する特徴を特徴付けることである。これらの手法は近年進歩しているものの、データセットの高密度な評価を必要とするため、計算コストが高いという弱点がある。その結果、これらの手法の設計に関する研究は、より小さなデータサブセットに焦点を当てており、洞察力を低下させる可能性がある。このような計算コストに対処するため、我々は、解釈タスクのために大規模データセットの代表的なサブセットをサンプリングするコアセット選択法を利用する、コアセットに基づく解釈フレームワークを提案する。この目標に向けて、入力とするデータ量に対するモデル解釈手法の頑健性を評価するために、類似度ベースの評価プロトコルを提案する。いくつかの解釈手法、DNNモデル、コアセット選択手法を考慮した実験により、提案するフレームワークの有効性を示す。

要約(オリジナル)

Model Interpretation aims at the extraction of insights from the internals of a trained model. A common approach to address this task is the characterization of relevant features internally encoded in the model that are critical for its proper operation. Despite recent progress of these methods, they come with the weakness of being computationally expensive due to the dense evaluation of datasets that they require. As a consequence, research on the design of these methods have focused on smaller data subsets which may led to reduced insights. To address these computational costs, we propose a coreset-based interpretation framework that utilizes coreset selection methods to sample a representative subset of the large dataset for the interpretation task. Towards this goal, we propose a similarity-based evaluation protocol to assess the robustness of model interpretation methods towards the amount data they take as input. Experiments considering several interpretation methods, DNN models, and coreset selection methods show the effectiveness of the proposed framework.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL