Deep Representation Learning for Forecasting Recursive and Multi-Relational Events in Temporal Networks

要約

エンティティ間の相互作用から生じる関係を理解することは非常に困難な場合があり、それらを予測することはさらに困難です。
この問題は、金融ネットワークや電子商取引など、さまざまな分野で多くの用途があります。
これらの関係には、単に 3 つ以上のエンティティが関与する場合よりもはるかに複雑な関係が含まれる場合があります。
そのようなシナリオの 1 つは、複数のエンティティ間の再帰的な関係の進化ですが、これは今のところ未解決の問題です。
この研究は、多重関係性および再帰的になる可能性がある高次の相互作用イベントを予測するという問題に取り組んでいます。
我々は、複数のエンティティが関与する複雑な関係を捉えることができる時間ハイパーグラフの表現学習のフレームワークで問題を提起します。
提案されたモデル \textit{Relational Recursive Hyperedge Temporal Point Process} (RRHyperTPP) は、過去のインタラクション パターンに基づいて動的ノード表現を学習するエンコーダーを使用し、次にハイパーエッジ リンク予測ベースのデコーダーを使用してインタラクション イベントの発生をモデル化します。
これらの学習された表現は、インタラクションの種類と時間の予測を含む下流のタスクに使用されます。
ハイパーエッジ イベントから学習する際の主な課題は、ネットワーク内のノードの数に応じて、可能なハイパーエッジの数が指数関数的に増加することです。
これにより、生存関数の計算にはすべての可能なハイパーエッジの合計が必要となるため、時間点プロセスの負の対数尤度の計算が高価になります。
私たちの研究では、モデルのパラメーターを学習するためのノイズ対比推定方法を開発し、相互作用予測に関して、モデルが以前の最先端の方法よりも優れたパフォーマンスを発揮することを実験的に示しました。

要約(オリジナル)

Understanding relations arising out of interactions among entities can be very difficult, and predicting them is even more challenging. This problem has many applications in various fields, such as financial networks and e-commerce. These relations can involve much more complexities than just involving more than two entities. One such scenario is evolving recursive relations between multiple entities, and so far, this is still an open problem. This work addresses the problem of forecasting higher-order interaction events that can be multi-relational and recursive. We pose the problem in the framework of representation learning of temporal hypergraphs that can capture complex relationships involving multiple entities. The proposed model, \textit{Relational Recursive Hyperedge Temporal Point Process} (RRHyperTPP) uses an encoder that learns a dynamic node representation based on the historical interaction patterns and then a hyperedge link prediction-based decoder to model the occurrence of interaction events. These learned representations are then used for downstream tasks involving forecasting the type and time of interactions. The main challenge in learning from hyperedge events is that the number of possible hyperedges grows exponentially with the number of nodes in the network. This will make the computation of negative log-likelihood of the temporal point process expensive, as the calculation of survival function requires a summation over all possible hyperedges. In our work, we develop a noise contrastive estimation method to learn the parameters of our model, and we have experimentally shown that our models perform better than previous state-of-the-art methods for interaction forecasting.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google