Boosting long-term forecasting performance for continuous-time dynamic graph networks via data augmentation

要約

タイトル：データ拡張による連続時間動的グラフネットワークの長期予測性能の向上

要約：
– この研究は、現実世界のモデリングに重要な連続時間動的グラフネットワーク（CTDGN）における長期予測（LTF）に焦点を当てている。
– CTDGNは複雑な時系列依存関係を捉えることができるため、時系列グラフデータのモデリングに効果的であるが、LTFには大きな問題がある。
– LTFには多くの過去データが必要であり、一般的に現実的ではないため、データ拡張が必要。
– この研究では、不確実性推定を行いCTDGNの中間層の埋め込みに不確実性を導入し、その不確実性をさらに強化するためのマスキングミックスアップを実行するプラグアンドプレイモジュール、「不確実性マスクミックスアップ（UmmU）」を提案している。
– UmmUは、パラメータ数を増やすことなく任意のCTDGNに容易に挿入できる。
– 3つの実世界の動的グラフデータセットに対する包括的な実験を行い、その結果、UmmUはCTDGNの長期予測性能を効果的に改善できることが示された。

要約(オリジナル)

This study focuses on long-term forecasting (LTF) on continuous-time dynamic graph networks (CTDGNs), which is important for real-world modeling. Existing CTDGNs are effective for modeling temporal graph data due to their ability to capture complex temporal dependencies but perform poorly on LTF due to the substantial requirement for historical data, which is not practical in most cases. To relieve this problem, a most intuitive way is data augmentation. In this study, we propose \textbf{\underline{U}ncertainty \underline{M}asked \underline{M}ix\underline{U}p (UmmU)}: a plug-and-play module that conducts uncertainty estimation to introduce uncertainty into the embedding of intermediate layer of CTDGNs, and perform masked mixup to further enhance the uncertainty of the embedding to make it generalize to more situations. UmmU can be easily inserted into arbitrary CTDGNs without increasing the number of parameters. We conduct comprehensive experiments on three real-world dynamic graph datasets, the results demonstrate that UmmU can effectively improve the long-term forecasting performance for CTDGNs.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI