Hierarchical Ensemble-Based Feature Selection for Time Series Forecasting

要約

非定常性があり、多数の特徴を持つサンプルの数が限られている場合に、階層的なスタッキングに基づいて特徴を選択するための新しいアンサンブル アプローチを研究します。
私たちのアプローチは、階層構造を使用して機能間の相互依存関係を利用します。
最初に、機械学習モデルは特徴のサブセットを使用してトレーニングされ、その後、ターゲットの損失を最小限に抑えるために、残りの特徴を含む別のアルゴリズムを使用してモデルの出力が更新されます。
この階層構造により、深さと機能を柔軟に選択できます。
特徴の共依存関係を階層的に利用することで、私たちが提案するアプローチは、従来の特徴選択方法と特徴重要度スコアの制限を克服します。
このアプローチの有効性は合成データセットと実際のデータセットで実証されており、従来の方法や最先端の​​アプローチと比較してスケーラビリティと安定性によるパフォーマンスの向上が示されています。

要約(オリジナル)

We study a novel ensemble approach for feature selection based on hierarchical stacking in cases of non-stationarity and limited number of samples with large number of features. Our approach exploits the co-dependency between features using a hierarchical structure. Initially, a machine learning model is trained using a subset of features, and then the model’s output is updated using another algorithm with the remaining features to minimize the target loss. This hierarchical structure allows for flexible depth and feature selection. By exploiting feature co-dependency hierarchically, our proposed approach overcomes the limitations of traditional feature selection methods and feature importance scores. The effectiveness of the approach is demonstrated on synthetic and real-life datasets, indicating improved performance with scalability and stability compared to the traditional methods and state-of-the-art approaches.

arxiv情報

著者 Aysin Tumay,Mustafa E. Aydin,Suleyman S. Kozat
発行日 2023-10-26 16:40:09+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG パーマリンク