Accelerating Convergence in Bayesian Few-Shot Classification

要約

ベイズ型少数ショット分類は、少数ショット学習の分野で焦点となっている。本稿では、ミラー降下に基づく変分推論をガウス過程に基づく少数ショット分類にシームレスに統合し、非共役推論の課題に取り組む。非ユークリッド幾何学を活用することで、ミラー降下は対応する多様体に沿った最も急峻な降下方向を提供し、収束の加速を達成する。また、変分分布に関するパラメタリゼーション不変性を示す。実験結果は、ベースラインモデルと比較して、競争力のある分類精度、不確かさの定量化の改善、および収束の高速化を示している。さらに、ハイパーパラメータと構成要素の影響についても調べる。コードは https://github.com/keanson/MD-BSFC で公開されている。

要約(オリジナル)

Bayesian few-shot classification has been a focal point in the field of few-shot learning. This paper seamlessly integrates mirror descent-based variational inference into Gaussian process-based few-shot classification, addressing the challenge of non-conjugate inference. By leveraging non-Euclidean geometry, mirror descent achieves accelerated convergence by providing the steepest descent direction along the corresponding manifold. It also exhibits the parameterization invariance property concerning the variational distribution. Experimental results demonstrate competitive classification accuracy, improved uncertainty quantification, and faster convergence compared to baseline models. Additionally, we investigate the impact of hyperparameters and components. Code is publicly available at https://github.com/keanson/MD-BSFC.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL