Mutual Information-guided Knowledge Transfer for Novel Class Discovery

要約

見られたクラスからのラベル付けされたデータに基づいて、ラベル付けされていないデータで新しいクラスを発見することを目指して、新しいクラス発見問題に取り組みます。
主な課題は、見られるクラスに含まれる知識を見えないクラスに移すことです。
以前の方法は、ほとんどの場合、表現スペースまたは共同ラベルスペースの共有を通じて知識を伝達します。
ただし、表示されているカテゴリと表示されていないカテゴリの間のクラスの関係を無視する傾向があるため、学習された表現は、表示されていないクラスをクラスタリングするのにあまり効果的ではありません。
本論文では、見えたクラスと見えないクラスの間で意味知識を伝達するための原理と一般的な方法を提案する。
私たちの洞察は、相互情報量を利用して、制限されたラベル空間で見られるクラスと見えないクラスの関係を測定し、相互情報量を最大化することで意味知識の伝達を促進することです。
私たちの方法の有効性と一般化を検証するために、新しいクラスの発見と一般的な新しいクラスの発見の設定の両方で広範な実験を行います。
私たちの結果は、提案された方法がいくつかのベンチマークで以前のSOTAを大幅に上回っていることを示しています。

要約(オリジナル)

We tackle the novel class discovery problem, aiming to discover novel classes in unlabeled data based on labeled data from seen classes. The main challenge is to transfer knowledge contained in the seen classes to unseen ones. Previous methods mostly transfer knowledge through sharing representation space or joint label space. However, they tend to neglect the class relation between seen and unseen categories, and thus the learned representations are less effective for clustering unseen classes. In this paper, we propose a principle and general method to transfer semantic knowledge between seen and unseen classes. Our insight is to utilize mutual information to measure the relation between seen classes and unseen classes in a restricted label space and maximizing mutual information promotes transferring semantic knowledge. To validate the effectiveness and generalization of our method, we conduct extensive experiments both on novel class discovery and general novel class discovery settings. Our results show that the proposed method outperforms previous SOTA by a significant margin on several benchmarks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google