Personalization of Large Language Models: A Survey

要約

大規模な言語モデル(LLMS)のパーソナライズは、幅広いアプリケーションで最近ますます重要になっています。
重要性と最近の進歩にもかかわらず、パーソナライズされたLLMに関する既存の作業のほとんどは、(a)パーソナライズされたテキスト生成または(b)推奨システムなどのパーソナライズ関連のダウンストリームアプリケーションのLLMを活用することに完全に焦点を合わせています。
この作業では、パーソナライズされたLLM使用に関する分類を導入し、重要な違いと課題を要約することにより、これら2つの別々のメイン方向のギャップを初めて埋めます。
LLMのパーソナライズの概念を統合および拡大するパーソナライズされたLLMの基礎の形式化を提供し、パーソナライズされたLLMのパーソナライズ、使用、およびデシデラタの新しい側面を定義および議論します。
次に、パーソナライズ、パーソナライズテクニック、データセット、評価方法、およびパーソナライズされたLLMSのアプリケーションの粒度のための体系的な分類法を提案することにより、これらの多様な分野と使用シナリオ全体の文献を統一します。
最後に、対処されていない課題と重要な開かれた問題を強調します。
提案された分類法を使用して最近の研究を統合して調査することにより、LLMSにおける既存の文献とLLMSのさまざまなパーソナライズの側面に関する明確なガイドを提供し、研究者と実践者の両方に力を与えることを目指しています。

要約(オリジナル)

Personalization of Large Language Models (LLMs) has recently become increasingly important with a wide range of applications. Despite the importance and recent progress, most existing works on personalized LLMs have focused either entirely on (a) personalized text generation or (b) leveraging LLMs for personalization-related downstream applications, such as recommendation systems. In this work, we bridge the gap between these two separate main directions for the first time by introducing a taxonomy for personalized LLM usage and summarizing the key differences and challenges. We provide a formalization of the foundations of personalized LLMs that consolidates and expands notions of personalization of LLMs, defining and discussing novel facets of personalization, usage, and desiderata of personalized LLMs. We then unify the literature across these diverse fields and usage scenarios by proposing systematic taxonomies for the granularity of personalization, personalization techniques, datasets, evaluation methods, and applications of personalized LLMs. Finally, we highlight challenges and important open problems that remain to be addressed. By unifying and surveying recent research using the proposed taxonomies, we aim to provide a clear guide to the existing literature and different facets of personalization in LLMs, empowering both researchers and practitioners.

arxiv情報

著者 Zhehao Zhang,Ryan A. Rossi,Branislav Kveton,Yijia Shao,Diyi Yang,Hamed Zamani,Franck Dernoncourt,Joe Barrow,Tong Yu,Sungchul Kim,Ruiyi Zhang,Jiuxiang Gu,Tyler Derr,Hongjie Chen,Junda Wu,Xiang Chen,Zichao Wang,Subrata Mitra,Nedim Lipka,Nesreen Ahmed,Yu Wang
発行日 2025-05-06 03:03:35+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL パーマリンク