Vector-based Representation is the Key: A Study on Disentanglement and Compositional Generalization

要約

観察から基本的な基礎概念を認識し (解きほぐす)、これらの概念の新しい組み合わせを生成する (構成的一般化) ことは、人間が迅速な知識学習をサポートし、新しいタスクに一般化するための基本的な能力ですが、深層学習モデルはこれに苦労します。
人間のような知能を目指して、解きほぐされた表現学習に関するさまざまな研究が提案されており、最近では構成的一般化に関するいくつかの研究が発表されています。
しかし、もつれの解き方と構成の一般化との関係を研究した研究はほとんどなく、観察された結果には一貫性がありません。
この論文では、もつれ解除能力と構成的一般化能力の両方の観点から、いくつかの典型的なもつれ解除表現の学習作業を研究し、重要な洞察を提供します。ベクトルベースの表現 (概念を表すためにスカラーの代わりにベクトルを使用する) が、
優れたもつれの解消と強力な構成的一般化の両方を可能にします。
この洞察は、脳が個々のニューロンではなくニューロン集団の活動に情報をコード化するという神経科学の研究とも共鳴します。
この観察に動機付けられて、我々はさらに、スカラーベースのもつれ解除作業 ($\beta$-TCVAE と FactorVAE) をベクトルベースに再構築して両方の機能を向上させる方法を提案します。
私たちは、ベクトルベースの表現の次元の影響と 1 つの重要な疑問、つまり、より良い解きほぐしがより高い構成一般化を示すかどうかを調査します。
要約すると、私たちの研究は、優れた概念認識と新しい概念構成の両方を達成することが可能であり、人間のような知能への重要な一歩に貢献することを示しています。

要約(オリジナル)

Recognizing elementary underlying concepts from observations (disentanglement) and generating novel combinations of these concepts (compositional generalization) are fundamental abilities for humans to support rapid knowledge learning and generalize to new tasks, with which the deep learning models struggle. Towards human-like intelligence, various works on disentangled representation learning have been proposed, and recently some studies on compositional generalization have been presented. However, few works study the relationship between disentanglement and compositional generalization, and the observed results are inconsistent. In this paper, we study several typical disentangled representation learning works in terms of both disentanglement and compositional generalization abilities, and we provide an important insight: vector-based representation (using a vector instead of a scalar to represent a concept) is the key to empower both good disentanglement and strong compositional generalization. This insight also resonates the neuroscience research that the brain encodes information in neuron population activity rather than individual neurons. Motivated by this observation, we further propose a method to reform the scalar-based disentanglement works ($\beta$-TCVAE and FactorVAE) to be vector-based to increase both capabilities. We investigate the impact of the dimensions of vector-based representation and one important question: whether better disentanglement indicates higher compositional generalization. In summary, our study demonstrates that it is possible to achieve both good concept recognition and novel concept composition, contributing an important step towards human-like intelligence.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google