TASKED: Transformer-based Adversarial learning for human activity recognition using wearable sensors via Self-KnowledgE Distillation

要約

ウェアラブル センサー ベースの人間活動認識 (HAR) は主要な研究分野として浮上しており、さまざまなアプリケーションで利用されています。
最近、深層学習ベースの方法は、人間とコンピューターの相互作用アプリケーションの開発により、HAR 分野で大幅な改善を達成しました。
ただし、それらは標準的な畳み込みニューラル ネットワークのプロセスでローカル近傍で動作するように制限されており、体の位置に関する異なるセンサー間の相関関係は無視されます。
さらに、トレーニング データとテスト データの分布に大きなギャップがあり、被験者間の行動の違いによるパフォーマンスの低下という重大な困難な問題に直面しています。
この作業では、個々のセンサーの向きと空間的および時間的特徴を説明する、Self-KnowledgE Distillation (TASKED) を介したウェアラブル センサーを使用した人間の活動認識のための新しい Transformer ベースの敵対的学習フレームワークを提案します。
提案された方法は、敵対的学習と最大平均不一致 (MMD) 正則化を使用して、複数のドメインにわたるデータ分布を調整することで、複数の被験者のデータセットからクロスドメイン埋め込み機能表現を学習することができます。
提案された方法では、トレーニング手順の安定性と人間の活動認識のパフォーマンスを改善するために、教師を必要としない自己知識の蒸留を採用します。
実験結果は、TASKED が 4 つの現実世界の公開 HAR データセット (単独または結合) で最先端の方法よりも優れているだけでなく、主題の一般化を効果的に改善することも示しています。

要約(オリジナル)

Wearable sensor-based human activity recognition (HAR) has emerged as a principal research area and is utilized in a variety of applications. Recently, deep learning-based methods have achieved significant improvement in the HAR field with the development of human-computer interaction applications. However, they are limited to operating in a local neighborhood in the process of a standard convolution neural network, and correlations between different sensors on body positions are ignored. In addition, they still face significant challenging problems with performance degradation due to large gaps in the distribution of training and test data, and behavioral differences between subjects. In this work, we propose a novel Transformer-based Adversarial learning framework for human activity recognition using wearable sensors via Self-KnowledgE Distillation (TASKED), that accounts for individual sensor orientations and spatial and temporal features. The proposed method is capable of learning cross-domain embedding feature representations from multiple subjects datasets using adversarial learning and the maximum mean discrepancy (MMD) regularization to align the data distribution over multiple domains. In the proposed method, we adopt the teacher-free self-knowledge distillation to improve the stability of the training procedure and the performance of human activity recognition. Experimental results show that TASKED not only outperforms state-of-the-art methods on the four real-world public HAR datasets (alone or combined) but also improves the subject generalization effectively.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google