Mutual Information-guided Knowledge Transfer for Novel Class Discovery

要約

我々は新規クラス発見問題に取り組んでいる。これは、見たことのあるクラスのラベル付きデータに基づき、ラベルのないデータから新規クラスを発見することを目的としている。主な課題は、見たクラスに含まれる知識を見たことのないクラスに伝達することである。これまでの手法では、表現空間の共有やラベル空間の共有によって知識を伝達することがほとんどであった。しかし、これらの方法では、見たクラスと見たことのないクラスの間のクラス関係が無視される傾向があり、そのため、学習された表現は見たことのないクラスのクラスタリングにはあまり有効でない。本論文では、見たクラスと見たことのないクラスの間で意味的知識を伝達する原理的かつ一般的な方法を提案する。本論文では、ラベル空間において、見たクラスと見たことのないクラスの間の関係を相互情報量として測定し、相互情報量を最大化することで意味知識の伝達を促進する手法を提案する。提案手法の有効性と汎用性を検証するため、新規クラス発見と一般的な新規クラス発見の両方について、広範な実験を行った。その結果、提案手法はいくつかのベンチマークにおいて、従来のSOTAを大幅に上回る性能を持つことが示された。

要約(オリジナル)

We tackle the novel class discovery problem, aiming to discover novel classes in unlabeled data based on labeled data from seen classes. The main challenge is to transfer knowledge contained in the seen classes to unseen ones. Previous methods mostly transfer knowledge through sharing representation space or joint label space. However, they tend to neglect the class relation between seen and unseen categories, and thus the learned representations are less effective for clustering unseen classes. In this paper, we propose a principle and general method to transfer semantic knowledge between seen and unseen classes. Our insight is to utilize mutual information to measure the relation between seen classes and unseen classes in a restricted label space and maximizing mutual information promotes transferring semantic knowledge. To validate the effectiveness and generalization of our method, we conduct extensive experiments both on novel class discovery and general novel class discovery settings. Our results show that the proposed method outperforms previous SOTA by a significant margin on several benchmarks.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL