Temporal Interest Network for User Response Prediction

要約

ユーザー反応の予測は、オンライン ディスプレイ広告などの業界推奨システムでは不可欠です。
レコメンデーション モデルのすべての機能の中で、ユーザーの行動は最も重要なものの 1 つです。
多くの研究により、行動と候補との間の意味的または時間的な相関関係により、ユーザーの行動が候補アイテムに対するユーザーの関心を反映していることが明らかになりました。
文献ではこれらの相関関係をそれぞれ個別に調査していますが、研究者はそれらを組み合わせた分析、つまり意味論的相関と時間的相関をまだ分析していません。
私たちはこの相関関係を経験的に測定し、直感的でありながら堅牢なパターンを観察します。
次に、いくつかの人気のあるユーザー関心モデルを調べたところ、驚くべきことに、どのモデルもそのような相関関係をうまく学習していないことがわかりました。
このギャップを埋めるために、行動とターゲットの間の意味的時間的相関を同時に捕捉する時間的関心ネットワーク (TIN) を提案します。
これは、セマンティック エンコーディングに加えて、ターゲットを意識した時間エンコーディングを組み込んで動作とターゲットを表現することで実現します。
さらに、ターゲットを意識した注意とターゲットを意識した表現を展開することにより、明示的な 4 方向のインタラクションを実行して、意味的相関と時間的相関の両方を捕捉します。
私たちは 2 つの人気のある公開データセットに対して包括的な評価を実施し、提案した TIN は、GAUC で最もパフォーマンスの高いベースラインをそれぞれ 0.43% および 0.29% 上回っています。
Tencent の広告プラットフォームでのオンライン A/B テスト中に、TIN は基本モデルと比較して 1.65% のコスト上昇と 1.93% の GMV 上昇を達成しました。
2023 年 10 月以降、実稼働環境に正常にデプロイされ、WeChat モーメントのトラフィックを処理しています。
https://github.com/zhouxy1003/TIN でコードをリリースしました。

要約(オリジナル)

User response prediction is essential in industrial recommendation systems, such as online display advertising. Among all the features in recommendation models, user behaviors are among the most critical. Many works have revealed that a user’s behavior reflects her interest in the candidate item, owing to the semantic or temporal correlation between behaviors and the candidate. While the literature has individually examined each of these correlations, researchers have yet to analyze them in combination, that is, the semantic-temporal correlation. We empirically measure this correlation and observe intuitive yet robust patterns. We then examine several popular user interest models and find that, surprisingly, none of them learn such correlation well. To fill this gap, we propose a Temporal Interest Network (TIN) to capture the semantic-temporal correlation simultaneously between behaviors and the target. We achieve this by incorporating target-aware temporal encoding, in addition to semantic encoding, to represent behaviors and the target. Furthermore, we conduct explicit 4-way interaction by deploying target-aware attention and target-aware representation to capture both semantic and temporal correlation. We conduct comprehensive evaluations on two popular public datasets, and our proposed TIN outperforms the best-performing baselines by 0.43% and 0.29% on GAUC, respectively. During online A/B testing in Tencent’s advertising platform, TIN achieves 1.65% cost lift and 1.93% GMV lift over the base model. It has been successfully deployed in production since October 2023, serving the WeChat Moments traffic. We have released our code at https://github.com/zhouxy1003/TIN.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google