Traffic Forecasting on New Roads Using Spatial Contrastive Pre-Training (SCPT)

要約

新しい道路がどんどん建設されています。
ただし、トレーニング データに存在しない新しい道路 (未知の道路) に一般化する以前の詳細な予測モデルの機能は、ほとんど調査されていません。
この論文では、目に見えない道路を一般化するモデルの機能を評価するために、時空間 (ST) 分割と呼ばれる新しい設定を導入します。
この設定では、モデルは道路のサンプルからのデータでトレーニングされますが、トレーニング データに含まれていない道路でテストされます。
さらに、空間コントラスト事前トレーニング (SCPT) と呼ばれる新しいフレームワークも紹介します。ここでは、推論中に目に見えない道路から潜在的な特徴を抽出するための空間エンコーダー モジュールを導入します。
この空間エンコーダーは、対照学習を使用して事前トレーニングされています。
推論中、空間エンコーダーは新しい道路の 2 日分の交通データのみを必要とし、再トレーニングは必要ありません。
また、空間エンコーダーからの出力を効果的に使用して、推論中に目に見えない道路上の潜在ノードの埋め込みを推論できることも示します。
SCPT フレームワークには、空間ゲート加算 (SGA) レイヤーと呼ばれる新しいレイヤーも組み込まれており、空間エンコーダーの出力から既存のバックボーンまでの潜在的な機能を効果的に組み合わせることができます。
さらに、目に見えない道路に関するデータは限られているため、交通信号をキャプチャするのが簡単な周期信号とキャプチャするのが難しいマルコフ信号に分離し、空間エンコーダがマルコフ信号のみを学習する方が良いと主張します。
。
最後に、4 つの現実世界のデータセットで ST 分割セットアップを使用して SCPT を経験的に評価しました。
その結果、SCPT をバックボーンに追加すると、目に見えない道路での予測パフォーマンスが一貫して向上することがわかりました。
さらに重要なのは、さらに将来を予測すると、改善がさらに大きくなるということです。
コードは GitHub: https://github.com/cruiseresearchgroup/forecasting-on-new-roads で入手できます。

要約(オリジナル)

New roads are being constructed all the time. However, the capabilities of previous deep forecasting models to generalize to new roads not seen in the training data (unseen roads) are rarely explored. In this paper, we introduce a novel setup called a spatio-temporal (ST) split to evaluate the models’ capabilities to generalize to unseen roads. In this setup, the models are trained on data from a sample of roads, but tested on roads not seen in the training data. Moreover, we also present a novel framework called Spatial Contrastive Pre-Training (SCPT) where we introduce a spatial encoder module to extract latent features from unseen roads during inference time. This spatial encoder is pre-trained using contrastive learning. During inference, the spatial encoder only requires two days of traffic data on the new roads and does not require any re-training. We also show that the output from the spatial encoder can be used effectively to infer latent node embeddings on unseen roads during inference time. The SCPT framework also incorporates a new layer, named the spatially gated addition (SGA) layer, to effectively combine the latent features from the output of the spatial encoder to existing backbones. Additionally, since there is limited data on the unseen roads, we argue that it is better to decouple traffic signals to trivial-to-capture periodic signals and difficult-to-capture Markovian signals, and for the spatial encoder to only learn the Markovian signals. Finally, we empirically evaluated SCPT using the ST split setup on four real-world datasets. The results showed that adding SCPT to a backbone consistently improves forecasting performance on unseen roads. More importantly, the improvements are greater when forecasting further into the future. The codes are available on GitHub: https://github.com/cruiseresearchgroup/forecasting-on-new-roads .

arxiv情報

提供元, 利用サービス

arxiv.jp, Google