LLMs + Persona-Plug = Personalized LLMs

要約

同じ要件を持つユーザーは個人の興味に基づいて多様な出力を好む可能性があるため、パーソナライゼーションは多くの言語タスクやアプリケーションで重要な役割を果たします。
これにより、大規模言語モデル (LLM) を適応させて、ユーザーの好みに合わせてカスタマイズされた出力を生成することを目的とした、さまざまなパーソナライズされたアプローチの開発が行われました。
それらの中には、ユーザーごとに独自にパーソナライズされた LLM を微調整する必要があるものもあり、広範囲に適用するには費用がかかりすぎます。
代替アプローチでは、ユーザーの関連する歴史的テキストをデモンストレーションとして取得することにより、プラグアンドプレイ方式でパーソナライゼーション情報を導入します。
ただし、この検索ベースの戦略では、ユーザー履歴の連続性が損なわれ、ユーザーの全体的なスタイルとパターンを捕捉できない可能性があり、その結果、次善のパフォーマンスが発生する可能性があります。
これらの課題に対処するために、私たちは新しいパーソナライズされた LLM モデル \ours{} を提案します。
軽量のプラグイン ユーザー エンベッダー モジュールを通じてすべての歴史的コンテキストをモデル化することで、各個人にユーザー固有のエンベディングを構築します。
この埋め込みをタスク入力にアタッチすることで、LLM はユーザーの習慣や好みをよりよく理解して捕捉できるため、独自のパラメーターを調整することなく、よりパーソナライズされた出力を生成できます。
言語モデル パーソナライゼーション (LaMP) ベンチマークにおけるさまざまなタスクに関する広範な実験により、提案されたモデルが既存のパーソナライズされた LLM アプローチよりも大幅に優れていることが実証されました。

要約(オリジナル)

Personalization plays a critical role in numerous language tasks and applications, since users with the same requirements may prefer diverse outputs based on their individual interests. This has led to the development of various personalized approaches aimed at adapting large language models (LLMs) to generate customized outputs aligned with user preferences. Some of them involve fine-tuning a unique personalized LLM for each user, which is too expensive for widespread application. Alternative approaches introduce personalization information in a plug-and-play manner by retrieving the user’s relevant historical texts as demonstrations. However, this retrieval-based strategy may break the continuity of the user history and fail to capture the user’s overall styles and patterns, hence leading to sub-optimal performance. To address these challenges, we propose a novel personalized LLM model, \ours{}. It constructs a user-specific embedding for each individual by modeling all her historical contexts through a lightweight plug-in user embedder module. By attaching this embedding to the task input, LLMs can better understand and capture user habits and preferences, thereby producing more personalized outputs without tuning their own parameters. Extensive experiments on various tasks in the language model personalization (LaMP) benchmark demonstrate that the proposed model significantly outperforms existing personalized LLM approaches.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google