Large Language Models Make Sample-Efficient Recommender Systems

要約

大規模言語モデル (LLM) は、自然言語処理 (NLP) の分野で目覚ましい進歩を遂げ、さまざまなタスクで人間の言語に似たテキストを生成する際の顕著な能力を実証しています。
これにより、推奨システム (RS) でそれらを採用する新たな機会が開かれます。
このペーパーでは、LLM で強化されたレコメンダー システムのサンプル効率を特に調べます。これは、限られた量のトレーニング データで優れたパフォーマンスを達成するモデルの能力に関係します。
従来のレコメンデーション モデル (CRM) では、機能やインタラクションがまばらであるため、多くの場合、大量のトレーニング データが必要になります。
したがって、私たちは中心となる視点「大規模な言語モデルを使用してサンプル効率の高いレコメンダー システムを作成する」を提案し、検証します。
我々は、この観点を 2 つの側面から検証するための、シンプルだが効果的なフレームワーク (つまり、Laser) を提案します。(1) LLM 自体はサンプル効率の高い推奨者です。
(2) LLM は、特徴ジェネレーターおよびエンコーダーとして、CRM のサンプル効率を高めます。
2 つの公開データセットに対する広範な実験により、Laser がトレーニング セット全体でトレーニングされた CRM と同等またはそれを上回るトレーニング サンプルのほんの一部のみを必要とすることが示され、優れたサンプル効率が実証されました。

要約(オリジナル)

Large language models (LLMs) have achieved remarkable progress in the field of natural language processing (NLP), demonstrating remarkable abilities in producing text that resembles human language for various tasks. This opens up new opportunities for employing them in recommender systems (RSs). In this paper, we specifically examine the sample efficiency of LLM-enhanced recommender systems, which pertains to the model’s capacity to attain superior performance with a limited quantity of training data. Conventional recommendation models (CRMs) often need a large amount of training data because of the sparsity of features and interactions. Hence, we propose and verify our core viewpoint: Large Language Models Make Sample-Efficient Recommender Systems. We propose a simple yet effective framework (i.e., Laser) to validate the viewpoint from two aspects: (1) LLMs themselves are sample-efficient recommenders; and (2) LLMs, as feature generators and encoders, make CRMs more sample-efficient. Extensive experiments on two public datasets show that Laser requires only a small fraction of training samples to match or even surpass CRMs that are trained on the entire training set, demonstrating superior sample efficiency.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google