Selective Vision-Language Subspace Projection for Few-shot CLIP

要約

CLIP などの視覚言語モデルは、さまざまなモダリティ データを統一された特徴空間にマッピングすることができ、指定された画像とテキストの類似性を測定することによってゼロショットまたは少数ショットの推論を可能にします。
しかし、既存の方法のほとんどは、CLIP のエンコードされた特徴におけるモダリティ ギャップを見落としており、テキストと画像の特徴が互いに遠く離れていることが示され、その結果、分類パフォーマンスが制限されます。
この問題に取り組むために、選択的視覚言語部分空間投影 (SSP) と呼ばれる手法を導入します。これは、局所的な画像の特徴を組み込み、画像とテキストのペア間の整合性を高めるためのブリッジとして利用します。
具体的には、当社の SSP フレームワークは、ビジョン プロジェクターと言語プロジェクターという 2 つの並列モジュールで構成されています。
どちらのプロジェクターもローカル画像特徴を利用して画像とテキストのそれぞれの部分空間に広がり、それによって画像とテキストの特徴をそれぞれの部分空間に投影して位置合わせを実現します。
さらに、私たちのアプローチはトレーニング不要の行列計算のみを必要とし、高度な CLIP ベースの数ショット学習フレームワークにシームレスに統合できます。
11 のデータセットに対する広範な実験により、SSP の優れたテキストと画像の位置合わせ機能が実証され、最先端の位置合わせ方法を上回りました。
コードは https://github.com/zhuhsingyuu/SSP で入手できます。

要約(オリジナル)

Vision-language models such as CLIP are capable of mapping the different modality data into a unified feature space, enabling zero/few-shot inference by measuring the similarity of given images and texts. However, most existing methods overlook modality gaps in CLIP’s encoded features, which is shown as the text and image features lie far apart from each other, resulting in limited classification performance. To tackle this issue, we introduce a method called Selective Vision-Language Subspace Projection (SSP), which incorporates local image features and utilizes them as a bridge to enhance the alignment between image-text pairs. Specifically, our SSP framework comprises two parallel modules: a vision projector and a language projector. Both projectors utilize local image features to span the respective subspaces for image and texts, thereby projecting the image and text features into their respective subspaces to achieve alignment. Moreover, our approach entails only training-free matrix calculations and can be seamlessly integrated into advanced CLIP-based few-shot learning frameworks. Extensive experiments on 11 datasets have demonstrated SSP’s superior text-image alignment capabilities, outperforming the state-of-the-art alignment methods. The code is available at https://github.com/zhuhsingyuu/SSP

arxiv情報

提供元, 利用サービス

arxiv.jp, Google