The Importance of Downstream Networks in Digital Pathology Foundation Models

要約

デジタル病理学は、ギガピクセルのホールスライド画像(WSI)の解析を通じて、疾患検出と病理医の作業効率を著しく向上させた。このプロセスにおいて、WSIはまずパッチに分割され、特徴抽出モデルが適用されて特徴ベクトルが得られ、その後、それぞれのWSIラベルを予測するために集約モデルによって処理される。表現学習の急速な進化に伴い、多くの新しい特徴抽出モデル（しばしば基礎モデルと呼ばれる）が出現している。従来の評価方法は、固定されたアーキテクチャとハイパーパラメータを含む、静的な下流集約モデルのセットアップに依存しており、これは結果にバイアスをかける可能性がある。我々の研究は、特徴抽出モデルの集約モデル構成に対する感度を明らかにし、性能比較可能性が選択された構成に基づいて歪められる可能性があることを示す。この感度を考慮することで、現在の多くの特徴抽出モデルの性能が顕著に類似していることが分かる。我々は、162の異なる集約モデル構成で、3つの異なるデータセットにわたって7つの特徴抽出モデルを評価することにより、この洞察を支持する。この包括的なアプローチにより、様々な集計モデル構成に対する特徴抽出器の感度をより微妙に理解することができ、デジタル病理学における新しい基礎モデルのより公平で正確な評価につながる。

要約(オリジナル)

Digital pathology has significantly advanced disease detection and pathologist efficiency through the analysis of gigapixel whole-slide images (WSI). In this process, WSIs are first divided into patches, for which a feature extractor model is applied to obtain feature vectors, which are subsequently processed by an aggregation model to predict the respective WSI label. With the rapid evolution of representation learning, numerous new feature extractor models, often termed foundational models, have emerged. Traditional evaluation methods rely on a static downstream aggregation model setup, encompassing a fixed architecture and hyperparameters, a practice we identify as potentially biasing the results. Our study uncovers a sensitivity of feature extractor models towards aggregation model configurations, indicating that performance comparability can be skewed based on the chosen configurations. By accounting for this sensitivity, we find that the performance of many current feature extractor models is notably similar. We support this insight by evaluating seven feature extractor models across three different datasets with 162 different aggregation model configurations. This comprehensive approach provides a more nuanced understanding of the feature extractors’ sensitivity to various aggregation model configurations, leading to a fairer and more accurate assessment of new foundation models in digital pathology.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL