Trustworthy Transfer Learning: A Survey

要約

転移学習は、知識や情報をソース ドメインから関連するターゲット ドメインに転送することを目的としています。
この論文では、知識の伝達性と信頼性の観点から転移学習を理解します。
これには 2 つの研究課題が含まれます。知識の伝達可能性はどのようにして定量的に測定され、ドメイン間で強化されるのでしょうか?
転移学習プロセスで転移された知識は信頼できますか?
これらの質問に答えるために、このペーパーでは、問題定義、理論分析、経験的アルゴリズム、現実世界のアプリケーションなど、さまざまな側面から信頼できる転移学習を包括的にレビューします。
具体的には、(ドメイン内) IID および非 IID 仮定の下での知識伝達可能性を理解するための最近の理論とアルゴリズムを要約します。
知識の移転可能性に加えて、移転学習に対する信頼性の影響、たとえば、移転された知識が敵対的に堅牢であるか、アルゴリズム的に公平であるか、プライバシー保護の制約の下で知識を移転する方法などをレビューします。現在の進歩について議論するだけでなく、次のことを強調します。
信頼できる方法で転移学習を理解するための未解決の質問と今後の方向性。

要約(オリジナル)

Transfer learning aims to transfer knowledge or information from a source domain to a relevant target domain. In this paper, we understand transfer learning from the perspectives of knowledge transferability and trustworthiness. This involves two research questions: How is knowledge transferability quantitatively measured and enhanced across domains? Can we trust the transferred knowledge in the transfer learning process? To answer these questions, this paper provides a comprehensive review of trustworthy transfer learning from various aspects, including problem definitions, theoretical analysis, empirical algorithms, and real-world applications. Specifically, we summarize recent theories and algorithms for understanding knowledge transferability under (within-domain) IID and non-IID assumptions. In addition to knowledge transferability, we review the impact of trustworthiness on transfer learning, e.g., whether the transferred knowledge is adversarially robust or algorithmically fair, how to transfer the knowledge under privacy-preserving constraints, etc. Beyond discussing the current advancements, we highlight the open questions and future directions for understanding transfer learning in a reliable and trustworthy manner.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google