An Analysis of Linear Time Series Forecasting Models

要約

線形モデルは、その単純さにも関わらず、より深く高価なモデルと比較した場合でも、時系列予測で優れたパフォーマンスを発揮します。
線形モデルに対する多くのバリエーションが提案されており、多くの場合、モデルの一般化を改善する何らかの形式の特徴正規化が含まれています。
この論文では、これらの線形モデル アーキテクチャを使用して表現可能な関数のセットを分析します。
そうすることで、時系列予測用の線形モデルのいくつかの一般的なバリアントが、標準の制約のない線形回帰と同等であり、機能的に区別できないことを示します。
各線形バリアントのモデル クラスを特徴付けます。
各モデルは、適切に拡張された特徴セットに対する制約のない線形回帰として再解釈できるため、平均二乗損失関数を使用する場合には閉形式の解が認められることを示します。
私たちは、検査対象のモデルがほぼ同じ解法を学習するという実験的証拠を提供し、最終的には、より単純な閉じた形式の解法が、テスト設定の 72% にわたって優れた予測ツールであることを実証します。

要約(オリジナル)

Despite their simplicity, linear models perform well at time series forecasting, even when pitted against deeper and more expensive models. A number of variations to the linear model have been proposed, often including some form of feature normalisation that improves model generalisation. In this paper we analyse the sets of functions expressible using these linear model architectures. In so doing we show that several popular variants of linear models for time series forecasting are equivalent and functionally indistinguishable from standard, unconstrained linear regression. We characterise the model classes for each linear variant. We demonstrate that each model can be reinterpreted as unconstrained linear regression over a suitably augmented feature set, and therefore admit closed-form solutions when using a mean-squared loss function. We provide experimental evidence that the models under inspection learn nearly identical solutions, and finally demonstrate that the simpler closed form solutions are superior forecasters across 72% of test settings.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google