Intra-video Positive Pairs in Self-Supervised Learning for Ultrasound

要約

自己教師あり学習 (SSL) は、ラベルのない画像から表現を学習することで、医療画像におけるラベル付きデータの不足に対処する戦略の 1 つです。
対照的および非対照的な SSL メソッドは、関連する画像のペアについて類似した学習された表現を生成します。
このようなペアは通常、同じ画像をランダムに 2 回歪ませることで構築されます。
超音波のビデオグラフィックの性質により、画像のペア間の類似関係を定義する柔軟性が得られます。
この研究では、同じ B モード超音波ビデオからの近接した別個の画像を SSL のペアとして利用する効果を調査しました。
さらに、近い画像ペアの重みを増やすサンプル重み付けスキームを導入し、それを SSL 目標に統合する方法を実証しました。
イントラビデオ ポジティブ ペア (IVPP) と名付けられたこの方法は、POCUS データセットを使用した 新型コロナウイルス感染症 (COVID-19) 分類における以前の超音波特有の対比学習法の平均テスト精度を $\ge 1.3\%$ 上回りました。
IVPP のハイパーパラメータの詳細な調査により、IVPP ハイパーパラメータの一部の組み合わせが、下流のタスクに応じてパフォーマンスの向上または悪化につながる可能性があることが明らかになりました。
タスク固有のハイパーパラメータを使用した IVPP のメリットや、非造影法と比較した超音波造影法のパフォーマンスの向上などの結果に基づいて、医師向けのガイドラインが作成されました。

要約(オリジナル)

Self-supervised learning (SSL) is one strategy for addressing the paucity of labelled data in medical imaging by learning representations from unlabelled images. Contrastive and non-contrastive SSL methods produce learned representations that are similar for pairs of related images. Such pairs are commonly constructed by randomly distorting the same image twice. The videographic nature of ultrasound offers flexibility for defining the similarity relationship between pairs of images. In this study, we investigated the effect of utilizing proximal, distinct images from the same B-mode ultrasound video as pairs for SSL. Additionally, we introduced a sample weighting scheme that increases the weight of closer image pairs and demonstrated how it can be integrated into SSL objectives. Named Intra-Video Positive Pairs (IVPP), the method surpassed previous ultrasound-specific contrastive learning methods’ average test accuracy on COVID-19 classification with the POCUS dataset by $\ge 1.3\%$. Detailed investigations of IVPP’s hyperparameters revealed that some combinations of IVPP hyperparameters can lead to improved or worsened performance, depending on the downstream task. Guidelines for practitioners were synthesized based on the results, such as the merit of IVPP with task-specific hyperparameters, and the improved performance of contrastive methods for ultrasound compared to non-contrastive counterparts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google