Accelerating Convergence in Bayesian Few-Shot Classification

要約

ベイジアンの少数ショット分類は、少数ショット学習の分野で焦点となっています。
この論文では、ミラー降下ベースの変分推論をガウス過程ベースの少数ショット分類にシームレスに統合し、非共役推論の課題に取り組んでいます。
非ユークリッド幾何学を活用することにより、ミラー降下は、対応する多様体に沿って最も急な降下方向を提供することにより、加速された収束を実現します。
また、変分分布に関するパラメータ化不変特性も示します。
実験結果は、ベースライン モデルと比較して、競合する分類精度、改善された不確実性の定量化、およびより速い収束を実証しています。
さらに、ハイパーパラメータとコンポーネントの影響も調査します。
コードは https://github.com/keanson/MD-BSFC で公開されています。

要約(オリジナル)

Bayesian few-shot classification has been a focal point in the field of few-shot learning. This paper seamlessly integrates mirror descent-based variational inference into Gaussian process-based few-shot classification, addressing the challenge of non-conjugate inference. By leveraging non-Euclidean geometry, mirror descent achieves accelerated convergence by providing the steepest descent direction along the corresponding manifold. It also exhibits the parameterization invariance property concerning the variational distribution. Experimental results demonstrate competitive classification accuracy, improved uncertainty quantification, and faster convergence compared to baseline models. Additionally, we investigate the impact of hyperparameters and components. Code is publicly available at https://github.com/keanson/MD-BSFC.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google