TLXML: Task-Level Explanation of Meta-Learning via Influence Functions

要約

メタラーニングを介した適応スキームは、実際のアプリケーションのデータ不足または分布シフトの問題を解決するための要素と見なされますが、ユーザー環境でモデルの不適切な更新の新しいリスクももたらし、これにより増加します。
説明可能性の需要。
さまざまなタイプのXAIメソッドの中で、メタラーニングの過去の経験に基づいた説明方法を確立するには、双子のトレーニング構造のために特別な考慮が必要です。
この作業では、適応と推論に対するトレーニングタスクの感受性を測定するメタ学習を説明するための影響機能を提案します。
また、Gauss-Newton Matrixを使用するヘシアンの近似は、計算障壁がメタラーニングに特有の障壁を解決すると主張します。
MAMLとプロトタイプネットワークを使用した画像分類タスクを使用して、タスクの区別とタスク分布の区別に関する実験を通じて、メソッドの妥当性を実証します。

要約(オリジナル)

The scheme of adaptation via meta-learning is seen as an ingredient for solving the problem of data shortage or distribution shift in real-world applications, but it also brings the new risk of inappropriate updates of the model in the user environment, which increases the demand for explainability. Among the various types of XAI methods, establishing a method of explanation based on past experience in meta-learning requires special consideration due to its bi-level structure of training, which has been left unexplored. In this work, we propose influence functions for explaining meta-learning that measure the sensitivities of training tasks to adaptation and inference. We also argue that the approximation of the Hessian using the Gauss-Newton matrix resolves computational barriers peculiar to meta-learning. We demonstrate the adequacy of the method through experiments on task distinction and task distribution distinction using image classification tasks with MAML and Prototypical Network.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google