MLA-BIN: Model-level Attention and Batch-instance Style Normalization for Domain Generalization of Federated Learning on Medical Image Segmentation

要約

フェデレーテッド ラーニング (FL) のプライバシー保護メカニズムは、施設を越えた医療連携とデータ共有のための効果的なソリューションを提供します。
マルチサイト医療画像セグメンテーションでは、各医療サイトが FL のクライアントとなり、そのデータは自然にドメインを形成します。
FL は、既知のドメイン モデルのパフォーマンスを向上させる可能性を提供します。
ただし、実際のデプロイメントにはドメイン汎化 (DG) の問題があります。つまり、目に見えないドメインで FL によってトレーニングされたモデルのパフォーマンスが低下します。
したがって、本研究では FL の DG を解決するために MLA-BIN を提案します。
具体的には、モデルレベルのアテンション モジュール (MLA) とバッチ インスタンス スタイルの正規化 (BIN) ブロックが設計されました。
MLA は、目に見えないドメインを、目に見えるドメイン モデルの線形結合として表します。
重み付け係数には、ドメイン間のデータ特徴の類似性に応じて最適な係数を取得するための注意メカニズムが導入されています。
MLA により、グローバル モデルを目に見えない領域まで一般化できます。
BIN ブロックでは、バッチ正規化 (BN) とインスタンス正規化 (IN) を組み合わせてスタイル正規化のためのセグメンテーション ネットワークの浅い層を実行し、ドメイン間の画像スタイルの違いによる DG への影響を解決します。
2 つの医療画像セグメント化タスクの広範な実験結果は、提案された MLA-BIN が最先端の方法よりも優れていることを示しています。

要約(オリジナル)

The privacy protection mechanism of federated learning (FL) offers an effective solution for cross-center medical collaboration and data sharing. In multi-site medical image segmentation, each medical site serves as a client of FL, and its data naturally forms a domain. FL supplies the possibility to improve the performance of seen domains model. However, there is a problem of domain generalization (DG) in the actual de-ployment, that is, the performance of the model trained by FL in unseen domains will decrease. Hence, MLA-BIN is proposed to solve the DG of FL in this study. Specifically, the model-level attention module (MLA) and batch-instance style normalization (BIN) block were designed. The MLA represents the unseen domain as a linear combination of seen domain models. The atten-tion mechanism is introduced for the weighting coefficient to obtain the optimal coefficient ac-cording to the similarity of inter-domain data features. MLA enables the global model to gen-eralize to unseen domain. In the BIN block, batch normalization (BN) and instance normalization (IN) are combined to perform the shallow layers of the segmentation network for style normali-zation, solving the influence of inter-domain image style differences on DG. The extensive experimental results of two medical image seg-mentation tasks demonstrate that the proposed MLA-BIN outperforms state-of-the-art methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google