Bi-directional Weakly Supervised Knowledge Distillation for Whole Slide Image Classification

要約

全スライド画像 (WSI) の分類に基づくコンピューター支援病理診断は、臨床診療において重要な役割を果たし、多くの場合、教師が弱い複数インスタンス学習 (MIL) 問題として定式化されます。
既存の方法は、バッグ分類またはインスタンス分類の観点からこの問題を解決します。
この論文では、バッグ分類器とインスタンス分類器を知識蒸留フレームワークに統合して、両方の分類器のパフォーマンスを相互に改善する、WSI 分類用のエンドツーエンドの弱教師付き知識蒸留フレームワーク (WENO) を提案します。
具体的には、アテンション ベースのバッグ分類器が弱いバッグ ラベルでトレーニングされた教師ネットワークとして使用され、インスタンス分類器が生徒ネットワークとして使用されます。
陽性バッグ内のインスタンスのラベル。
インスタンス特徴抽出器は、教師と生徒の間で共有され、両者間の知識交換をさらに強化します。
さらに、生徒ネットワークの出力に基づいてハード ポジティブ インスタンス マイニング戦略を提案し、教師ネットワークがハード ポジティブ インスタンスをマイニングし続けるように強制します。
WENO は、既存の注意ベースのバッグ分類方法に簡単に適用できるプラグアンドプレイ フレームワークです。
5 つのデータセットに対する大規模な実験により、WENO の効率が実証されました。
コードは https://github.com/miccaiif/WENO で入手できます。

要約(オリジナル)

Computer-aided pathology diagnosis based on the classification of Whole Slide Image (WSI) plays an important role in clinical practice, and it is often formulated as a weakly-supervised Multiple Instance Learning (MIL) problem. Existing methods solve this problem from either a bag classification or an instance classification perspective. In this paper, we propose an end-to-end weakly supervised knowledge distillation framework (WENO) for WSI classification, which integrates a bag classifier and an instance classifier in a knowledge distillation framework to mutually improve the performance of both classifiers. Specifically, an attention-based bag classifier is used as the teacher network, which is trained with weak bag labels, and an instance classifier is used as the student network, which is trained using the normalized attention scores obtained from the teacher network as soft pseudo labels for the instances in positive bags. An instance feature extractor is shared between the teacher and the student to further enhance the knowledge exchange between them. In addition, we propose a hard positive instance mining strategy based on the output of the student network to force the teacher network to keep mining hard positive instances. WENO is a plug-and-play framework that can be easily applied to any existing attention-based bag classification methods. Extensive experiments on five datasets demonstrate the efficiency of WENO. Code is available at https://github.com/miccaiif/WENO.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google