Generative Pretrained Embedding and Hierarchical Irregular Time Series Representation for Daily Living Activity Recognition

要約

スマートホームの進化する状況においては、周囲センサーデータを使用した日常生活活動の正確な認識が最も重要です。
この論文は、周囲センサーの活性化に適した 2 つの異なる事前トレーニング済み埋め込みを評価することで既存のアルゴリズムを強化することを目的とするだけでなく、新しい階層アーキテクチャも導入します。
GPT 設計を彷彿とさせる、Transformer Decoder ベースの事前トレーニング済みエンベディングに基づいたアーキテクチャを詳しく調べ、これをアンビエント センサー用に以前に確立された最先端 (SOTA) ELMo エンベディングと対比します。
私たちが提案する階層構造は、事前トレーニングされた各埋め込みの強みを活用し、アクティビティの依存関係とシーケンス順序の識別を可能にし、それによって分類精度を向上させます。
認識をさらに改良するために、提案するアーキテクチャに時刻の埋め込みを組み込みます。
経験的な評価は、分類の取り組みに組み込まれた Transformer Decoder の卓越性を強調しています。
さらに、当社の革新的な階層設計により、特にインタラクティブなニュアンスの捕捉において、両方の事前トレーニング済み埋め込みの有効性が大幅に強化されます。
時間的側面の統合により、特に時間に敏感なアクティビティの場合、分類が微妙に、しかし明確に強化されます。
結論として、時間的洞察を注入した GPT にヒントを得た階層的アプローチは、SOTA ELMo ベンチマークを上回っています。

要約(オリジナル)

Within the evolving landscape of smart homes, the precise recognition of daily living activities using ambient sensor data stands paramount. This paper not only aims to bolster existing algorithms by evaluating two distinct pretrained embeddings suited for ambient sensor activations but also introduces a novel hierarchical architecture. We delve into an architecture anchored on Transformer Decoder-based pre-trained embeddings, reminiscent of the GPT design, and contrast it with the previously established state-of-the-art (SOTA) ELMo embeddings for ambient sensors. Our proposed hierarchical structure leverages the strengths of each pre-trained embedding, enabling the discernment of activity dependencies and sequence order, thereby enhancing classification precision. To further refine recognition, we incorporate into our proposed architecture an hour-of-the-day embedding. Empirical evaluations underscore the preeminence of the Transformer Decoder embedding in classification endeavors. Additionally, our innovative hierarchical design significantly bolsters the efficacy of both pre-trained embeddings, notably in capturing inter-activity nuances. The integration of temporal aspects subtly but distinctively augments classification, especially for time-sensitive activities. In conclusion, our GPT-inspired hierarchical approach, infused with temporal insights, outshines the SOTA ELMo benchmark.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google