Traffic Forecasting on New Roads Unseen in the Training Data Using Spatial Contrastive Pre-Training

要約

タイトル：空間対比学習を用いたトレーニングデータにない新しい道路の交通予測

要約：
– 新しい道路が建設され続けているが、過去の深層予測モデルがトレーニングデータにない新しい道路に対して一般化する能力を探求した研究はほとんどない。
– この論文では、モデルがトレーニングデータにない道路に対して一般化する能力を評価する新しい設定である空間・時間分割(setup)を導入する。
– この設定では、モデルは一部の道路のデータでトレーニングされ、トレーニングデータに含まれない道路でテストされる。
– さらに、推論時に未知の道路から潜在的な特徴を抽出するための空間エンコーダモジュールを導入した、空間対比学習(SCPT)フレームワークを提供する。
– 推論時に、空間エンコーダは新しい道路の2日間の交通データのみを必要とし、再トレーニングは不要である。
– 空間エンコーダの出力は未知の道路の潜在ノード埋め込みを効果的に推測するために使用できることを示す。
– SCPTフレームワークは、空間エンコーダからの潜在特徴を既存のバックボーンに効果的に組み合わせるための新しいレイヤー、空間ゲート付き加算(SGA)レイヤーも導入する。
– さらに、未知の道路に対するデータが限られているため、信号を記録可能な周期信号と記録が困難なマルコフ信号に分離し、空間エンコーダがマルコフ信号のみを学習することが望ましいと主張する。
– 最後に、4つの実世界データセットでST分割設定を使用してSCPTを実証的に評価した。その結果、SCPTをバックボーンに追加することで、未知の道路での予測性能が一貫して向上することが示された。さらに、予測先の時間が長いと改善が大きくなることも確認された。

要約(オリジナル)

New roads are being constructed all the time. However, the capabilities of previous deep forecasting models to generalize to new roads not seen in the training data (unseen roads) are rarely explored. In this paper, we introduce a novel setup called a spatio-temporal (ST) split to evaluate the models’ capabilities to generalize to unseen roads. In this setup, the models are trained on data from a sample of roads, but tested on roads not seen in the training data. Moreover, we also present a novel framework called Spatial Contrastive Pre-Training (SCPT) where we introduce a spatial encoder module to extract latent features from unseen roads during inference time. This spatial encoder is pre-trained using contrastive learning. During inference, the spatial encoder only requires two days of traffic data on the new roads and does not require any re-training. We also show that the output from the spatial encoder can be used effectively to infer latent node embeddings on unseen roads during inference time. The SCPT framework also incorporates a new layer, named the spatially gated addition (SGA) layer, to effectively combine the latent features from the output of the spatial encoder to existing backbones. Additionally, since there is limited data on the unseen roads, we argue that it is better to decouple traffic signals to trivial-to-capture periodic signals and difficult-to-capture Markovian signals, and for the spatial encoder to only learn the Markovian signals. Finally, we empirically evaluated SCPT using the ST split setup on four real-world datasets. The results showed that adding SCPT to a backbone consistently improves forecasting performance on unseen roads. More importantly, the improvements are greater when forecasting further into the future.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI