Learning General Representation of 12-Lead Electrocardiogram with a Joint-Embedding Predictive Architecture

要約

心電図（ECG）は心臓の電気信号を捉え、心臓疾患の診断に貴重な情報を提供する。しかし、ラベル付けされたデータが乏しいため、医療分野で教師あり学習を十分に活用することは困難である。自己教師付き学習（SSL）は、ラベル付けされていないデータから学習し、意味のあるパターンを発見することを可能にする、有望な解決策を提供する。本稿では、ECG領域において、潜在空間におけるマスクされたモデリングが、既存の自己教師付き手法の強力な代替となり得ることを示す。ECG-JEPAを紹介する。ECG-JEPAは12誘導心電図解析のためのSSLモデルであり、生の信号を再構成する必要性を回避し、隠れた潜在空間で予測することにより、心電図データの意味表現を学習する。このアプローチは、ECG領域においていくつかの利点を提供する。(1)ECGで一般的なノイズのような不必要な詳細を生成することを回避できる。もう一つの重要な貢献は、12誘導ECGデータ用に調整された特殊なマスク注意メカニズムであるCross-Pattern Attention（CroPA）の導入である。ECG-JEPAは、複数のオープンECGデータセット（合計約18万サンプル）の結合で学習され、ECG分類や特徴予測を含む様々な下流タスクで最先端の性能を達成した。我々のコードはhttps://github.com/sehunfromdaegu/ECG_JEPA。

要約(オリジナル)

Electrocardiogram (ECG) captures the heart’s electrical signals, offering valuable information for diagnosing cardiac conditions. However, the scarcity of labeled data makes it challenging to fully leverage supervised learning in medical domain. Self-supervised learning (SSL) offers a promising solution, enabling models to learn from unlabeled data and uncover meaningful patterns. In this paper, we show that masked modeling in the latent space can be a powerful alternative to existing self-supervised methods in the ECG domain. We introduce ECG-JEPA, a SSL model for 12-lead ECG analysis that learns semantic representations of ECG data by predicting in the hidden latent space, bypassing the need to reconstruct raw signals. This approach offers several advantages in the ECG domain: (1) it avoids producing unnecessary details, such as noise, which is common in ECG; and (2) it addresses the limitations of na\’ive L2 loss between raw signals. Another key contribution is the introduction of Cross-Pattern Attention (CroPA), a specialized masked attention mechanism tailored for 12-lead ECG data. ECG-JEPA is trained on the union of several open ECG datasets, totaling approximately 180,000 samples, and achieves state-of-the-art performance in various downstream tasks including ECG classification and feature prediction. Our code is openly available at https://github.com/sehunfromdaegu/ECG_JEPA.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL