Independence Constrained Disentangled Representation Learning from Epistemological Perspective

要約

解絡表現学習は、データ生成プロセスにおいて意味的に意味のある潜在変数を識別するデータ エンコーダーをトレーニングすることにより、ディープ ラーニング手法の説明可能性を向上させることを目的としています。
それにもかかわらず、もつれの解いた表現学習の目的について広く受け入れられている定義に関してはコンセンサスがありません。
特に、潜在変数が相互に独立であるべきかどうかについては、かなりの量の議論が行われています。
この論文では、まず認識論と解きほぐされた表現学習の間に概念的な橋を確立することによって、潜在変数間の相互関係に関するこれらの議論を調査します。
次に、これらの学際的な概念に触発されて、この問題に関する以前の議論に対する一般的な解決策を提供するために、2 レベルの潜在空間フレームワークを導入します。
最後に、敵対的生成ネットワーク (GAN) フレームワーク内で相互情報量制約と独立性制約の統合を採用することにより、もつれを解く表現学習のための新しい方法を提案します。
実験結果は、私たちの提案した方法が定量的評価と定性的評価の両方でベースラインアプローチよりも常に優れていることを示しています。
この方法は、一般的に使用される複数のメトリクスにわたって強力なパフォーマンスを示し、さまざまな意味論的要素のもつれを解く優れた能力を実証し、制御可能な生成の品質の向上につながり、結果としてアルゴリズムの説明可能性に利益をもたらします。

要約(オリジナル)

Disentangled Representation Learning aims to improve the explainability of deep learning methods by training a data encoder that identifies semantically meaningful latent variables in the data generation process. Nevertheless, there is no consensus regarding a universally accepted definition for the objective of disentangled representation learning. In particular, there is a considerable amount of discourse regarding whether should the latent variables be mutually independent or not. In this paper, we first investigate these arguments on the interrelationships between latent variables by establishing a conceptual bridge between Epistemology and Disentangled Representation Learning. Then, inspired by these interdisciplinary concepts, we introduce a two-level latent space framework to provide a general solution to the prior arguments on this issue. Finally, we propose a novel method for disentangled representation learning by employing an integration of mutual information constraint and independence constraint within the Generative Adversarial Network (GAN) framework. Experimental results demonstrate that our proposed method consistently outperforms baseline approaches in both quantitative and qualitative evaluations. The method exhibits strong performance across multiple commonly used metrics and demonstrates a great capability in disentangling various semantic factors, leading to an improved quality of controllable generation, which consequently benefits the explainability of the algorithm.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google