The Scandinavian Embedding Benchmarks: Comprehensive Assessment of Multilingual and Monolingual Text Embedding

要約

英語テキスト埋め込みの評価は、少数のデータセットの評価から、MTEB などのベンチマークを通じて多くのタスクを幅広くカバーするようになりました。
ただし、利用可能なベンチマークが不足しているため、多言語テキスト埋め込みの場合は当てはまりません。
この問題に対処するために、Scandinavian Embedding Benchmark (SEB) を導入します。
SEB は、24 のタスク、10 のサブタスク、および 4 つのタスク カテゴリにわたるスカンジナビア言語のテキスト埋め込み評価を可能にする包括的なフレームワークです。
SEB に基づいて 26 を超えるモデルを評価し、これまで MTEB では把握できなかったパブリック ソリューションと商用ソリューション間の大きなパフォーマンスの差異を明らかにしました。
私たちは SEB をオープンソース化し、MTEB と統合することで、スカンジナビア言語のテキスト埋め込み評価のギャップを埋めます。

要約(オリジナル)

The evaluation of English text embeddings has transitioned from evaluating a handful of datasets to broad coverage across many tasks through benchmarks such as MTEB. However, this is not the case for multilingual text embeddings due to a lack of available benchmarks. To address this problem, we introduce the Scandinavian Embedding Benchmark (SEB). SEB is a comprehensive framework that enables text embedding evaluation for Scandinavian languages across 24 tasks, 10 subtasks, and 4 task categories. Building on SEB, we evaluate more than 26 models, uncovering significant performance disparities between public and commercial solutions not previously captured by MTEB. We open-source SEB and integrate it with MTEB, thus bridging the text embedding evaluation gap for Scandinavian languages.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google