Disentangled Representation Learning

要約

もつれの解けた表現学習 (DRL) は、表現形式で観察可能なデータに隠された根本的な要因を特定し、もつれを解くことができるモデルを学習することを目的としています。
変動の基礎となる要因を意味論的な意味を持つ変数に分離するプロセスは、データの説明可能な表現を学習するのに役立ち、オブジェクトや関係を観察するときの人間の意味のある理解プロセスを模倣します。
一般的な学習戦略として、DRL は、コンピューター ビジョン、自然言語処理、データ マイニングなどの幅広いシナリオで、モデルの説明可能性、制御可能性、堅牢性、および汎化能力を向上させる能力を実証してきました。
この記事では、動機、定義、方法論、評価、アプリケーション、モデル設計などのさまざまな側面から DRL を包括的に調査します。
まず、よく知られている 2 つの定義、つまり、解きほぐされた表現学習の直観的定義とグループ理論の定義を提示します。
さらに、DRL の方法論を、モデルの種類、表現構造、監視信号、独立性の仮定の観点から 4 つのグループに分類します。
また、実際のアプリケーションでさまざまなタスクに利益をもたらすさまざまな DRL モデルを設計するための原理も分析します。
最後に、DRL における課題と、将来の調査に値する潜在的な研究の方向性を指摘します。
私たちは、この研究がコミュニティでの DRL 研究を促進するための洞察を提供する可能性があると信じています。

要約(オリジナル)

Disentangled Representation Learning (DRL) aims to learn a model capable of identifying and disentangling the underlying factors hidden in the observable data in representation form. The process of separating underlying factors of variation into variables with semantic meaning benefits in learning explainable representations of data, which imitates the meaningful understanding process of humans when observing an object or relation. As a general learning strategy, DRL has demonstrated its power in improving the model explainability, controlability, robustness, as well as generalization capacity in a wide range of scenarios such as computer vision, natural language processing, and data mining. In this article, we comprehensively investigate DRL from various aspects including motivations, definitions, methodologies, evaluations, applications, and model designs. We first present two well-recognized definitions, i.e., Intuitive Definition and Group Theory Definition for disentangled representation learning. We further categorize the methodologies for DRL into four groups from the following perspectives, the model type, representation structure, supervision signal, and independence assumption. We also analyze principles to design different DRL models that may benefit different tasks in practical applications. Finally, we point out challenges in DRL as well as potential research directions deserving future investigations. We believe this work may provide insights for promoting the DRL research in the community.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google