CWRCzech: 100M Query-Document Czech Click Dataset and Its Application to Web Relevance Ranking

要約

CWRCzech、チェコ用クリック Web ランキング データセット、Seznam.cz の検索エンジン ログから収集されたユーザー行動データとの関連性ランキング用の 1 億クエリ ドキュメント チェコ クリック データセットを紹介します。
私たちの知る限りでは、CWRCzech はこれまでに公開された生のテキストを含む最大のクリック データセットです。
検索結果内のドキュメントの位置と、ユーザーの行動に関する情報 (クリックされたドキュメント数 2,760 万件、滞在時間 1,080 万件) が提供されます。
さらに、関連性タスク用に手動で注釈を付けたチェコ語テストも公開します。これには、約 50,000 個のクエリと文書のペアが含まれており、それぞれに少なくとも 2 人のアノテーターが注釈を付けています。
最後に、ユーザー行動データがどのように関連性ランキングを向上させるかを分析し、十分な規模で自動的に利用されたデータでトレーニングされたモデルが、人間による注釈付きデータでトレーニングされたモデルのパフォーマンスを上回る可能性があることを示します。
CWRCzech は学術的な非営利ライセンスに基づいて公開されており、研究コミュニティは https://github.com/seznam/CWRCzech で利用できます。

要約(オリジナル)

We present CWRCzech, Click Web Ranking dataset for Czech, a 100M query-document Czech click dataset for relevance ranking with user behavior data collected from search engine logs of Seznam.cz. To the best of our knowledge, CWRCzech is the largest click dataset with raw text published so far. It provides document positions in the search results as well as information about user behavior: 27.6M clicked documents and 10.8M dwell times. In addition, we also publish a manually annotated Czech test for the relevance task, containing nearly 50k query-document pairs, each annotated by at least 2 annotators. Finally, we analyze how the user behavior data improve relevance ranking and show that models trained on data automatically harnessed at sufficient scale can surpass the performance of models trained on human annotated data. CWRCzech is published under an academic non-commercial license and is available to the research community at https://github.com/seznam/CWRCzech.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google