Feature Extraction for Generative Medical Imaging Evaluation: New Evidence Against an Evolving Trend

要約

FID (Fr\’echet Inception Distance) は、合成画像の品質を評価するために広く使用されている指標です。
ImageNet ベースの特徴抽出プログラムに依存しているため、医療画像への適用性は不明確です。
最近の傾向は、医療画像で訓練された特徴抽出器を通じて FID を医療画像に適応させることです。
私たちの研究では、ImageNet ベースの抽出プログラムが RadImageNet の抽出プログラムよりも一貫性があり、人間の判断と一致していることを実証することで、この慣行に異議を唱えています。
私たちは、11 個の ImageNet または RadImageNet でトレーニングされた特徴抽出器を使用して計算されたフレシェ距離 (FD) を使用して、4 つの医用画像モダリティと 4 つのデータ拡張技術にわたる 16 個の StyleGAN2 ネットワークを評価しました。
視覚的なチューリング テストによる人間の判断との比較により、ImageNet ベースの抽出プログラムが人間の判断と一致するランキングを生成し、ImageNet でトレーニングされた SwAV 抽出プログラムから導出された FD が専門家の評価と有意に相関していることが明らかになりました。
対照的に、RadImageNet ベースのランキングは不安定であり、人間の判断と矛盾していました。
私たちの発見は、一般的な仮定に疑問を投げかけ、医療画像でトレーニングされた特徴抽出器が本質的に FD を改善するわけではなく、その信頼性を損なう可能性さえあるという新たな証拠を提供します。
コードは https://github.com/mckellwoodland/fid-med-eval で入手できます。

要約(オリジナル)

Fr\’echet Inception Distance (FID) is a widely used metric for assessing synthetic image quality. It relies on an ImageNet-based feature extractor, making its applicability to medical imaging unclear. A recent trend is to adapt FID to medical imaging through feature extractors trained on medical images. Our study challenges this practice by demonstrating that ImageNet-based extractors are more consistent and aligned with human judgment than their RadImageNet counterparts. We evaluated sixteen StyleGAN2 networks across four medical imaging modalities and four data augmentation techniques with Fr\’echet distances (FDs) computed using eleven ImageNet or RadImageNet-trained feature extractors. Comparison with human judgment via visual Turing tests revealed that ImageNet-based extractors produced rankings consistent with human judgment, with the FD derived from the ImageNet-trained SwAV extractor significantly correlating with expert evaluations. In contrast, RadImageNet-based rankings were volatile and inconsistent with human judgment. Our findings challenge prevailing assumptions, providing novel evidence that medical image-trained feature extractors do not inherently improve FDs and can even compromise their reliability. Our code is available at https://github.com/mckellwoodland/fid-med-eval.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google