Hyp-UML: Hyperbolic Image Retrieval with Uncertainty-aware Metric Learning

要約

メトリック学習は、画像の検索と分類のトレーニングにおいて重要な役割を果たします。
これは、特徴学習や計量空間でのその調整など、表現学習における重要なアルゴリズムでもあります。
双曲線埋め込みは、以前に開発されたモデルのほとんどにおける従来のユークリッド埋め込みと比較して最近開発されたもので、階層データ構造を表現する際により効果的です。
第二に、不確実性の推定/測定は、人工知能における長期にわたる課題です。
不確実性の推定が成功すると、機械学習モデルのパフォーマンス、堅牢性、セキュリティが向上します。
双曲空間では、不確かさの測定は、少なくとも同等か、それ以上に重要です。
この論文では、画像検索のための不確実性を意識した計量学習を備えた双曲線画像埋め込みを開発します。
私たちはこのメソッドを Hyp-UML (双曲的不確実性を考慮したメトリクス学習) と呼んでいます。
私たちの貢献は 3 つあります。対応する不確実性値を備えた双曲空間に基づく画像埋め込みアルゴリズムを提案します。
我々は、一般的な対照学習と従来のマージンベースの計量学習の 2 種類の不確実性を意識した計量学習をそれぞれ提案します。
提案されたアルゴリズムが関連する方法の中で最先端の結果を達成できることを証明するために、広範な実験検証を実行します。
包括的なアブレーション研究により、提案されたアルゴリズムの各コンポーネントの有効性が検証されます。

要約(オリジナル)

Metric learning plays a critical role in training image retrieval and classification. It is also a key algorithm in representation learning, e.g., for feature learning and its alignment in metric space. Hyperbolic embedding has been recently developed, compared to the conventional Euclidean embedding in most of the previously developed models, and can be more effective in representing the hierarchical data structure. Second, uncertainty estimation/measurement is a long-lasting challenge in artificial intelligence. Successful uncertainty estimation can improve a machine learning model’s performance, robustness, and security. In Hyperbolic space, uncertainty measurement is at least with equivalent, if not more, critical importance. In this paper, we develop a Hyperbolic image embedding with uncertainty-aware metric learning for image retrieval. We call our method Hyp-UML: Hyperbolic Uncertainty-aware Metric Learning. Our contribution are threefold: we propose an image embedding algorithm based on Hyperbolic space, with their corresponding uncertainty value; we propose two types of uncertainty-aware metric learning, for the popular Contrastive learning and conventional margin-based metric learning, respectively. We perform extensive experimental validations to prove that the proposed algorithm can achieve state-of-the-art results among related methods. The comprehensive ablation study validates the effectiveness of each component of the proposed algorithm.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google