Self-Supervised Learning for Time Series Analysis: Taxonomy, Progress, and Prospects

要約

自己教師あり学習 (SSL) は最近、さまざまな時系列タスクで優れたパフォーマンスを達成しました。
SSL の最も顕著な利点は、ラベル付きデータへの依存が軽減されることです。
事前トレーニングと微調整戦略に基づいて、少量のラベル付きデータでも高いパフォーマンスを実現できます。
コンピューター ビジョンと自然言語処理に関する多くの自主調査と比較すると、時系列 SSL に関する包括的な調査はまだ存在していません。
このギャップを埋めるために、この記事では時系列データに対する現在の最先端の SSL メソッドをレビューします。
この目的のために、私たちはまず SSL と時系列に関連する既存の調査を包括的にレビューし、生成ベース、対照ベース、敵対ベースの 3 つの観点から要約することにより、既存の時系列 SSL 手法の新しい分類を提供します。
これらの手法はさらに 10 のサブカテゴリに分類されており、主要な直観、主要なフレームワーク、長所と短所について詳細なレビューと議論が行われています。
時系列 SSL メソッドの実験と検証を容易にするために、時系列の予測、分類、異常検出、およびクラスタリングのタスクで一般的に使用されるデータセットもまとめています。
最後に、時系列分析における SSL の今後の方向性を示します。

要約(オリジナル)

Self-supervised learning (SSL) has recently achieved impressive performance on various time series tasks. The most prominent advantage of SSL is that it reduces the dependence on labeled data. Based on the pre-training and fine-tuning strategy, even a small amount of labeled data can achieve high performance. Compared with many published self-supervised surveys on computer vision and natural language processing, a comprehensive survey for time series SSL is still missing. To fill this gap, we review current state-of-the-art SSL methods for time series data in this article. To this end, we first comprehensively review existing surveys related to SSL and time series, and then provide a new taxonomy of existing time series SSL methods by summarizing them from three perspectives: generative-based, contrastive-based, and adversarial-based. These methods are further divided into ten subcategories with detailed reviews and discussions about their key intuitions, main frameworks, advantages and disadvantages. To facilitate the experiments and validation of time series SSL methods, we also summarize datasets commonly used in time series forecasting, classification, anomaly detection, and clustering tasks. Finally, we present the future directions of SSL for time series analysis.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google