From Tables to Time: How TabPFN-v2 Outperforms Specialized Time Series Forecasting Models

要約

多くのトレーニングデータを必要とせずに予測を提供する能力により、基礎モデルは予測にますます人気があります。
この作業では、一般的な表形式の基礎モデルであるTABPFN-V2が、時系列予測にどのように効果的に適用できるかを示します。
TABPFN-TSを紹介します。これは、TABPFN-V2と軽量機能エンジニアリングを組み合わせて、ポイントと確率の両方の予測を可能にする簡単な方法です。
そのシンプルさとコンパクトなサイズ（11mパラメーター）にもかかわらず、TabpFN-TSは、両方の予測タスクでパブリックギフトイベルリーダーボードのトップランクを達成します。
アブレーション研究を通じて、この驚くべき有効性に寄与する要因を調査します。特に、TABPFN-V2が時系列にさらされることなく合成表形式データのみで前提とされていることを考慮しています。
私たちの結果は、時系列予測の貴重な新しいアプローチとして、Tabpfn-V2のような表形式の基礎モデルの可能性を強調しています。
実装は、https：//github.com/priorlabs/tabpfn-time-seriesで入手できます。

要約(オリジナル)

Foundation models have become increasingly popular for forecasting due to their ability to provide predictions without requiring a lot of training data. In this work, we demonstrate how TabPFN-v2, a general tabular foundation model, can be effectively applied to time series forecasting. We introduce TabPFN-TS, a simple method that combines TabPFN-v2 with lightweight feature engineering to enable both point and probabilistic forecasting. Despite its simplicity and compact size (11M parameters), TabPFN-TS achieves top rank on the public GIFT-Eval leaderboard in both forecasting tasks. Through ablation studies, we investigate factors contributing to this surprising effectiveness, especially considering TabPFN-v2 was pretrained solely on synthetic tabular data with no exposure to time series. Our results highlights the potential of tabular foundation models like TabPFN-v2 as a valuable new approach for time series forecasting. Our implementation is available at https://github.com/PriorLabs/tabpfn-time-series.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google