Wearable Accelerometer Foundation Models for Health via Knowledge Distillation

要約

最新のウェアラブルデバイスは、日常生活のさまざまな環境でさまざまなバイオシグナルを便利に記録でき、個々の健康の豊富な見方を可能にします。
ただし、すべてのバイオシグナルが同じであるわけではありません。フォトプレチスモグラム（PPG）などの高忠実度バイオシグナルには、より多くの生理学的情報が含まれていますが、高出力フットプリントを持つ光学センサーが必要です。
あるいは、加速度測定などの低忠実度のバイオシグナルは、電力フットプリントが大幅に小さく、ほぼすべてのウェアラブルデバイスで利用できます。
加速度測定は活動の認識とフィットネスに広く使用されていますが、健康バイオマーカーと診断についてはあまり探求されていません。
ここでは、加速度基礎モデルがさまざまな健康ターゲットを予測できることを示します。
パフォーマンスの向上を実現するために、PPGエンコーダーから2,000分間の非標識データを使用して、Apple HeartおよびMovement Studyの〜172K参加者から収集されたインフォームドコンセントの2,000分間の非標識データを使用して、Accelerometeryエンコーダーに代表的な知識を蒸留します。
目に見えないデータの強いクロスモーダルアラインメント、たとえば、加速度埋め込みからPPG埋め込みを取得するための99.2％のTOP-1精度を観察します。
蒸留加速度エンコーダーは、心拍数と心拍数の変動を予測するために少なくとも23％〜49％のパフォーマンスを改善するために、加速度データで直接トレーニングされた自己監視または監視されたエンコーダーと比較して、より有益な表現を持っていることを示しています。
また、蒸留加速度エンコーダーは、ダウンストリームの健康目標の幅広い配列を容易に予測することを示しています。
健康のための加速度基礎モデルは、あらゆるウェアラブルデバイスからデジタルバイオマーカーを開発するための新しい機会のロックを解除する可能性があると考えています。

要約(オリジナル)

Modern wearable devices can conveniently record various biosignals in the many different environments of daily living, enabling a rich view of individual health. However, not all biosignals are the same: high-fidelity biosignals, such as photoplethysmogram (PPG), contain more physiological information, but require optical sensors with a high power footprint. Alternatively, a lower-fidelity biosignal such as accelerometry has a significantly smaller power footprint and is available in almost any wearable device. While accelerometry is widely used for activity recognition and fitness, it is less explored for health biomarkers and diagnosis. Here, we show that an accelerometry foundation model can predict a wide variety of health targets. To achieve improved performance, we distill representational knowledge from PPG encoders to accelerometery encoders using 20 million minutes of unlabeled data, collected from ~172K participants in the Apple Heart and Movement Study under informed consent. We observe strong cross-modal alignment on unseen data, e.g., 99.2% top-1 accuracy for retrieving PPG embeddings from accelerometry embeddings. We show that distilled accelerometry encoders have significantly more informative representations compared to self-supervised or supervised encoders trained directly on accelerometry data, observed by at least 23%-49% improved performance for predicting heart rate and heart rate variability. We also show that distilled accelerometry encoders are readily predictive of a wide array of downstream health targets, i.e., they are generalist foundation models. We believe accelerometry foundation models for health may unlock new opportunities for developing digital biomarkers from any wearable device.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google