Uniting contrastive and generative learning for event sequences models

要約

取引シーケンスの高品質な表現は、リスク管理、解約予測、パーソナライズされた顧客オファーなどの最新の銀行アプリケーションにとって不可欠です。
さまざまなタスクには個別の表現プロパティが必要です。ローカル タスクはクライアントの現在の状態をキャプチャすることで恩恵を受けますが、グローバル タスクは一般的な動作パターンに依存します。
これまでの研究では、さまざまな自己教師ありアプローチにより、グローバルまたはローカルの性質をよりよく捉えた表現が得られることが実証されています。
この研究では、インスタンスごとの対照学習と潜在空間でのマスクされたイベントの復元に基づく生成アプローチという 2 つの自己教師あり学習手法の統合を調査します。
組み合わせたアプローチにより、ローカルとグローバルのトランザクション データ特性のバランスをとった表現が作成されます。
シーケンスの分類と次のイベントの種類の予測に焦点を当てて、いくつかの公開データセットに対して行われた実験では、統合された手法が個別のアプローチと比較して優れたパフォーマンスを達成し、相乗効果を実証していることが示されています。
これらの発見は、提案されたアプローチが金融分野におけるイベントシーケンス表現の学習を進めるための強力なフレームワークを提供することを示唆しています。

要約(オリジナル)

High-quality representation of transactional sequences is vital for modern banking applications, including risk management, churn prediction, and personalized customer offers. Different tasks require distinct representation properties: local tasks benefit from capturing the client’s current state, while global tasks rely on general behavioral patterns. Previous research has demonstrated that various self-supervised approaches yield representations that better capture either global or local qualities. This study investigates the integration of two self-supervised learning techniques – instance-wise contrastive learning and a generative approach based on restoring masked events in latent space. The combined approach creates representations that balance local and global transactional data characteristics. Experiments conducted on several public datasets, focusing on sequence classification and next-event type prediction, show that the integrated method achieves superior performance compared to individual approaches and demonstrates synergistic effects. These findings suggest that the proposed approach offers a robust framework for advancing event sequences representation learning in the financial sector.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google