Bootstrapping Parallel Anchors for Relative Representations

要約

潜在的な埋め込みに相対表現を使用すると、潜在的な空間通信と幅広いアプリケーションでのゼロ ショット モデル スティッチングを可能にする可能性が示されています。
それにもかかわらず、相対表現は、入力として与えられる特定の量の平行アンカーに依存しており、特定のシナリオでは取得するのが非現実的な場合があります。
この制限を克服するために、限られた数のシードから新しい並列アンカーを発見するための最適化ベースの方法を提案します。
私たちのアプローチは、異なるドメイン間のセマンティックな対応を見つけ、それらの相対的なスペースを調整し、いくつかのタスクで競争力のある結果を達成するために使用できます。

要約(オリジナル)

The use of relative representations for latent embeddings has shown potential in enabling latent space communication and zero-shot model stitching across a wide range of applications. Nevertheless, relative representations rely on a certain amount of parallel anchors to be given as input, which can be impractical to obtain in certain scenarios. To overcome this limitation, we propose an optimization-based method to discover new parallel anchors from a limited number of seeds. Our approach can be used to find semantic correspondence between different domains, align their relative spaces, and achieve competitive results in several tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google