Recommender Systems in the Era of Large Language Models (LLMs)

要約

電子商取引や Web アプリケーションの隆盛に伴い、レコメンダー システム (RecSys) は私たちの日常生活の重要な要素となり、ユーザーの好みに合わせてパーソナライズされた提案を提供します。
ディープ ニューラル ネットワーク (DNN) は、ユーザーとアイテムのインタラクションをモデル化し、テキストのサイド情報を組み込むことにより、レコメンダー システムの強化において大幅な進歩を遂げていますが、DNN ベースの手法は、ユーザーの興味の理解やテキストのサイド情報の取得が困難であるなど、依然として限界に直面しています。
一方で、ChatGPT や GPT4 などの大規模言語モデル (LLM) の出現は、自然言語処理 (NLP) や人工知能 (AI) の分野に革命をもたらしました。
それは、言語の理解と生成という基本的な責任における彼らの驚くべき能力と、印象的な一般化と推論能力によるものです。
その結果、最近の研究では、LLM の力を利用してレコメンダー システムを強化することが試みられています。
レコメンダ システムにおけるこの研究方向の急速な進化を考慮すると、関連分野の研究者に深い理解を提供するために、既存の LLM 機能を備えたレコメンダ システムを要約した体系的な概要が緊急に必要とされています。
したがって、このペーパーでは、事前トレーニング、微調整、プロンプトなどのさまざまな側面から LLM 機能を備えたレコメンダー システムを包括的にレビューします。
より具体的には、最初に、ユーザーとアイテムの表現を学習するために (特徴エンコーダーとして) LLM の力を利用する代表的な方法を紹介します。
次に、事前トレーニング、微調整、プロンプトという 3 つのパラダイムからレコメンダー システムを強化するための LLM の最近の手法をレビューします。
最後に、この新興分野における将来の方向性について包括的に議論します。

要約(オリジナル)

With the prosperity of e-commerce and web applications, Recommender Systems (RecSys) have become an important component of our daily life, providing personalized suggestions that cater to user preferences. While Deep Neural Networks (DNNs) have made significant advancements in enhancing recommender systems by modeling user-item interactions and incorporating textual side information, DNN-based methods still face limitations, such as difficulties in understanding users’ interests and capturing textual side information, inabilities in generalizing to various recommendation scenarios and reasoning on their predictions, etc. Meanwhile, the emergence of Large Language Models (LLMs), such as ChatGPT and GPT4, has revolutionized the fields of Natural Language Processing (NLP) and Artificial Intelligence (AI), due to their remarkable abilities in fundamental responsibilities of language understanding and generation, as well as impressive generalization and reasoning capabilities. As a result, recent studies have attempted to harness the power of LLMs to enhance recommender systems. Given the rapid evolution of this research direction in recommender systems, there is a pressing need for a systematic overview that summarizes existing LLM-empowered recommender systems, to provide researchers in relevant fields with an in-depth understanding. Therefore, in this paper, we conduct a comprehensive review of LLM-empowered recommender systems from various aspects including Pre-training, Fine-tuning, and Prompting. More specifically, we first introduce representative methods to harness the power of LLMs (as a feature encoder) for learning representations of users and items. Then, we review recent techniques of LLMs for enhancing recommender systems from three paradigms, namely pre-training, fine-tuning, and prompting. Finally, we comprehensively discuss future directions in this emerging field.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google