On the Predictive Accuracy of Neural Temporal Point Process Models for Continuous-time Event Data

要約

時間点プロセス (TPP) は、連続時間における非同期イベント シーケンスをモデル化するための標準的な数学的フレームワークとして機能します。
ただし、古典的な TPP モデルは強い仮定によって制約されることが多く、複雑な現実世界のイベントのダイナミクスを捉える能力が制限されます。
この制限を克服するために、研究者らはニューラル TPP を提案しました。これは、ニューラル ネットワークのパラメータ化を利用して、より柔軟で効率的なモデリングを提供します。
最近の研究ではニューラル TPP の有効性が実証されていますが、多くの場合、統合されたセットアップが欠如しており、異なるベースライン、データセット、実験構成に依存しています。
このため、予測精度の向上を促進する主要な要因を特定することが困難になり、研究の進歩が妨げられています。
このギャップを埋めるために、最先端のニューラル TPP モデルの予測精度を系統的に評価する包括的な大規模実験研究を紹介します。
私たちの研究には、慎重に設計された統一設定に従って、複数の実世界および合成イベント シーケンス データセットが含まれています。
私たちは、イベント エンコーディング、ヒストリー エンコーダー、デコーダーのパラメータ化などの主要なアーキテクチャ コンポーネントが時間予測タスクとマーク予測タスクの両方に与える影響を徹底的に調査します。
さらに、ニューラル TPP モデルの確率的キャリブレーションというあまり研究されていない領域についても詳しく説明します。
結果を分析することで、履歴サイズの重要性と予測精度に対するアーキテクチャ コンポーネントの影響について洞察力に富んだ結論を導き出します。
さらに、ニューラル TPP モデルにおけるマーク分布の誤った校正にも光を当てました。
私たちの研究は、ニューラル TPP モデルのパフォーマンスと特性に関する貴重な洞察を提供し、その長所と限界についてのより良い理解に貢献することを目的としています。

要約(オリジナル)

Temporal Point Processes (TPPs) serve as the standard mathematical framework for modeling asynchronous event sequences in continuous time. However, classical TPP models are often constrained by strong assumptions, limiting their ability to capture complex real-world event dynamics. To overcome this limitation, researchers have proposed Neural TPPs, which leverage neural network parametrizations to offer more flexible and efficient modeling. While recent studies demonstrate the effectiveness of Neural TPPs, they often lack a unified setup, relying on different baselines, datasets, and experimental configurations. This makes it challenging to identify the key factors driving improvements in predictive accuracy, hindering research progress. To bridge this gap, we present a comprehensive large-scale experimental study that systematically evaluates the predictive accuracy of state-of-the-art neural TPP models. Our study encompasses multiple real-world and synthetic event sequence datasets, following a carefully designed unified setup. We thoroughly investigate the influence of major architectural components such as event encoding, history encoder, and decoder parametrization on both time and mark prediction tasks. Additionally, we delve into the less explored area of probabilistic calibration for neural TPP models. By analyzing our results, we draw insightful conclusions regarding the significance of history size and the impact of architectural components on predictive accuracy. Furthermore, we shed light on the miscalibration of mark distributions in neural TPP models. Our study aims to provide valuable insights into the performance and characteristics of neural TPP models, contributing to a better understanding of their strengths and limitations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google