Parametric Information Maximization for Generalized Category Discovery

要約

一般化カテゴリ発見 (GCD) 問題に対してパラメトリック情報最大化 (PIM) モデルを導入します。
具体的には、ラベル付けされたサンプルからの監視制約に従って、それぞれが特徴と潜在ラベルの間の重み付けされた相互情報を評価する、パラメーター化された目的関数群を探索するバイレベル最適化定式化を提案します。
私たちの定式化は、標準的な情報最大化アプローチでエンコードされたクラスバランスバイアスを軽減し、それにより、ショートテールデータセットとロングテールデータセットの両方を効果的に処理します。
私たちは、PIM モデルが 6 つの異なるデータセットにわたって GCD で常に新しい最先端のパフォーマンスを確立していることを実証する広範な実験と比較を報告しており、困難なきめの細かい問題を扱う場合にはなおさらです。

要約(オリジナル)

We introduce a Parametric Information Maximization (PIM) model for the Generalized Category Discovery (GCD) problem. Specifically, we propose a bi-level optimization formulation, which explores a parameterized family of objective functions, each evaluating a weighted mutual information between the features and the latent labels, subject to supervision constraints from the labeled samples. Our formulation mitigates the class-balance bias encoded in standard information maximization approaches, thereby handling effectively both short-tailed and long-tailed data sets. We report extensive experiments and comparisons demonstrating that our PIM model consistently sets new state-of-the-art performances in GCD across six different datasets, more so when dealing with challenging fine-grained problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google