A Zero-Shot Generalization Framework for LLM-Driven Cross-Domain Sequential Recommendation

要約

ゼロショットクロスドメインの順次推奨（ZCDSR）は、追加のトレーニングや微調整を必要とせずに目に見えないドメインでの予測を可能にし、従来のモデルが苦労しているデータスパース環境で特に価値があります。
大規模な言語モデル（LLMS）の最近の進歩により、豊富な前提条件の表現を活用してクロスドメインの知識移転を促進することにより、ZCDSRが大幅に改善されました。
ただし、重要な課題は続きます。ドメインセマンティックバイアスは、語彙とコンテンツの焦点の変動から生じるものです。
この不整合は、アイテムの埋め込みの矛盾につながり、一般化を妨げます。
この問題に対処するために、アイテムレベルとシーケンシャルレベルの両方でクロスドメインアライメントを改善することにより、LLMベースのZCDSRを強化するように設計された新しいフレームワークを提案します。
アイテムレベルでは、ドメイン内の多様性を維持し、ユニークなアイテムの特性を維持しながら、ドメイン間の同様のアイテムの埋め込みを整列させることにより、ドメイン間コンパクトさを促進する一般化損失を導入します。
これにより、埋め込みが過度に一般的になるのを防ぎながら、効果的な転送可能性を確保します。
シーケンシャルレベルでは、ソースドメイン内のユーザーシーケンスをクラスタリングし、ターゲットドメイン推論に注意ベースの集約を適用することにより、ユーザーの行動パターンを転送する方法を開発します。
このユーザーエンミングの動的な適応により、ターゲットドメインの相互作用を必要とせずに効果的なゼロショット推奨事項が可能になります。
複数のデータセットとドメインにわたる包括的な実験は、我々のフレームワークがZCDSR設定での連続的な推奨パフォーマンスを大幅に改善することを示しています。
ドメインバイアスを緩和し、シーケンシャルパターンの転送可能性を高めることにより、この方法は、ドメイン全体でより効果的なゼロショット推奨事項を達成するためのスケーラブルで堅牢なアプローチを提供します。

要約(オリジナル)

Zero-shot cross-domain sequential recommendation (ZCDSR) enables predictions in unseen domains without the need for additional training or fine-tuning, making it particularly valuable in data-sparse environments where traditional models struggle. Recent advancements in large language models (LLMs) have greatly improved ZCDSR by leveraging rich pretrained representations to facilitate cross-domain knowledge transfer. However, a key challenge persists: domain semantic bias, which arises from variations in vocabulary and content focus across domains. This misalignment leads to inconsistencies in item embeddings and hinders generalization. To address this issue, we propose a novel framework designed to enhance LLM-based ZCDSR by improving cross-domain alignment at both the item and sequential levels. At the item level, we introduce a generalization loss that promotes inter-domain compactness by aligning embeddings of similar items across domains while maintaining intra-domain diversity to preserve unique item characteristics. This prevents embeddings from becoming overly generic while ensuring effective transferability. At the sequential level, we develop a method for transferring user behavioral patterns by clustering user sequences in the source domain and applying attention-based aggregation for target domain inference. This dynamic adaptation of user embeddings allows effective zero-shot recommendations without requiring target-domain interactions. Comprehensive experiments across multiple datasets and domains demonstrate that our framework significantly improves sequential recommendation performance in the ZCDSR setting. By mitigating domain bias and enhancing the transferability of sequential patterns, our method provides a scalable and robust approach for achieving more effective zero-shot recommendations across domains.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google