Modeling non-linear Effects with Neural Networks in Relational Event Models

要約

動的ネットワークは、リレーショナル システムがどのように進化するかについての洞察を提供します。
ただし、特に観測されるイベントの数が増加するにつれて、主に計算上の制約により、これらのネットワークを効率的にモデル化することは依然として課題となっています。
このペーパーでは、リレーショナル イベント モデル (REM) で非線形効果をモデル化することによって生じる計算上の課題の解決策として、ディープ リレーショナル イベント加算モデル (DREAM) を導入することで、この問題に対処します。
DREAM は、ニューラル加算モデルを利用して非線形効果をモデル化し、各効果を独立したニューラル ネットワークで捉えることができます。
DREAM は、メモリ管理を改善するために計算の複雑さを戦略的にトレードし、グラフィック プロセッサ ユニット (GPU) の計算能力を活用することで、データ内の複雑な非線形関係を効率的にキャプチャします。
このアプローチは、動的ネットワークのモデル化と大規模ネットワークへの拡張における DREAM の機能を示しています。
従来の REM アプローチとの比較により、DREAM の優れた計算効率がわかります。
モデルの可能性は、約 800 万のノードと 1 億のイベントを含む特許引用ネットワークの調査によってさらに実証されます。

要約(オリジナル)

Dynamic networks offer an insight of how relational systems evolve. However, modeling these networks efficiently remains a challenge, primarily due to computational constraints, especially as the number of observed events grows. This paper addresses this issue by introducing the Deep Relational Event Additive Model (DREAM) as a solution to the computational challenges presented by modeling non-linear effects in Relational Event Models (REMs). DREAM relies on Neural Additive Models to model non-linear effects, allowing each effect to be captured by an independent neural network. By strategically trading computational complexity for improved memory management and leveraging the computational capabilities of Graphic Processor Units (GPUs), DREAM efficiently captures complex non-linear relationships within data. This approach demonstrates the capability of DREAM in modeling dynamic networks and scaling to larger networks. Comparisons with traditional REM approaches showcase DREAM superior computational efficiency. The model potential is further demonstrated by an examination of the patent citation network, which contains nearly 8 million nodes and 100 million events.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google