Contrastive Learning and the Emergence of Attributes Associations

要約

オブジェクトの提示に応答して、教師あり学習スキームは通常、倹約的なラベルで応答します。
同様のプレゼンテーションに対して、私たち人間は再びレッテルを貼って反応しますが、さらに無数の連想が押し寄せます。
これらの大部分は、提示されたオブジェクト属性で構成されます。
対照学習は、オブジェクトの入力表現に対する同一性保持変換の適用に基づく半教師あり学習スキームです。
この研究では、これらの同じ適用された変換が、提示されたオブジェクトのアイデンティティに加えて、その意味論的に意味のある属性のアイデンティティも保存すると推測されています。
この結果、このような対比学習スキームの出力表現には、提示されたオブジェクトの分類だけでなく、関心のある属性の有無を決定するための貴重な情報が含まれることになります。
この考えとこの予想の実現可能性を実証するシミュレーション結果が示されています。

要約(オリジナル)

In response to an object presentation, supervised learning schemes generally respond with a parsimonious label. Upon a similar presentation we humans respond again with a label, but are flooded, in addition, by a myriad of associations. A significant portion of these consist of the presented object attributes. Contrastive learning is a semi-supervised learning scheme based on the application of identity preserving transformations on the object input representations. It is conjectured in this work that these same applied transformations preserve, in addition to the identity of the presented object, also the identity of its semantically meaningful attributes. The corollary of this is that the output representations of such a contrastive learning scheme contain valuable information not only for the classification of the presented object, but also for the presence or absence decision of any attribute of interest. Simulation results which demonstrate this idea and the feasibility of this conjecture are presented.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google