Longitudinal Self-supervised Learning Using Neural Ordinary Differential Equation

要約

医用画像処理における縦断的分析は、解剖学的構造の進行性変化や疾患の進行を時間の経過とともに調査するために重要です。
近年、連続画像のペアまたは時系列画像を使用して、自己教師ありで疾患の進行を学習することを目的とした、新しい種類のアルゴリズムが登場しました。
外部ラベルや監視なしで時間的パターンを捕捉することにより、縦断的自己教師あり学習 (LSSL) は有望な手段となっています。
このコアメソッドをより深く理解するために、このホワイトペーパーでは、さまざまなシナリオの下で LSSL アルゴリズムを検討します。
オリジナルの LSSL は自動エンコーダ (AE) 構造に埋め込まれています。
ただし、従来の自己教師あり戦略は通常、シャムのような方法で実装されます。
したがって、この研究では、（最初​​の新規性として）Siamese のような LSSL の使用を検討します。
ニューラル常微分方程式 (NODE) と呼ばれるもう 1 つの新しいコア フレームワーク。
NODE は、ニューラル ネットワークを使用して常微分方程式 (ODE) のダイナミクスを学習するニューラル ネットワーク アーキテクチャです。
病気の進行のモデリングを含め、多くの時間システムを ODE で記述できます。
私たちは、LSSL と NODE の間に興味深い関係があると信じています。
この文書は、前述の変化に伴う疾患の進行を学習するための核となるアルゴリズムをより深く理解することを目的としています。
私たちのさまざまな実験では、糖尿病性網膜症 (DR) の追跡調査を対象とした、OPHDIAT という名前の縦断データセットを使用します。
私たちの結果は、再構成項を含まない LSSL の適用と、LSSL と組み合わせて NODE を組み込む可能性を示しています。

要約(オリジナル)

Longitudinal analysis in medical imaging is crucial to investigate the progressive changes in anatomical structures or disease progression over time. In recent years, a novel class of algorithms has emerged with the goal of learning disease progression in a self-supervised manner, using either pairs of consecutive images or time series of images. By capturing temporal patterns without external labels or supervision, longitudinal self-supervised learning (LSSL) has become a promising avenue. To better understand this core method, we explore in this paper the LSSL algorithm under different scenarios. The original LSSL is embedded in an auto-encoder (AE) structure. However, conventional self-supervised strategies are usually implemented in a Siamese-like manner. Therefore, (as a first novelty) in this study, we explore the use of Siamese-like LSSL. Another new core framework named neural ordinary differential equation (NODE). NODE is a neural network architecture that learns the dynamics of ordinary differential equations (ODE) through the use of neural networks. Many temporal systems can be described by ODE, including modeling disease progression. We believe that there is an interesting connection to make between LSSL and NODE. This paper aims at providing a better understanding of those core algorithms for learning the disease progression with the mentioned change. In our different experiments, we employ a longitudinal dataset, named OPHDIAT, targeting diabetic retinopathy (DR) follow-up. Our results demonstrate the application of LSSL without including a reconstruction term, as well as the potential of incorporating NODE in conjunction with LSSL.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google