Surgical Aggregation: Federated Class-Heterogeneous Learning

要約

多数の胸部 X 線データセットのリリースにより、専門家レベルのパフォーマンスを備えた深層学習モデルの開発が先導されました。
ただし、一貫性のないラベル付けスキームや部分的なアノテーションの結果、クラスの異種性が原因で相互運用性が制限されます。
したがって、これらのデータセットを集合的に活用して、胸部内で発生する可能性のある異常を完全に表現したモデルをトレーニングすることは困難です。
この研究では、クラス異種データセットからの知識を集約するための連合学習フレームワークである外科集約を提案し、データセット全体に存在するすべての疾患ラベルの存在を同時に予測できるモデルを学習します。
独立した同一分散 (iid) 設定と非 iid 設定の両方にわたって、シミュレートされた現実世界のクラス異種データセットを使用してメソッドを評価します。
私たちの結果は、外科的集約が現在の方法よりも優れたパフォーマンスを示し、一般化可能性が優れており、以前は相互運用できなかった胸部X線データセットを使用した臨床的に有用なモデルの開発を促進するために、連合学習におけるクラスの異質性に取り組むための重要な第一歩であることを示しています。

要約(オリジナル)

The release of numerous chest x-ray datasets has spearheaded the development of deep learning models with expert-level performance. However, they have limited interoperability due to class-heterogeneity — a result of inconsistent labeling schemes and partial annotations. Therefore, it is challenging to leverage these datasets in aggregate to train models with a complete representation of abnormalities that may occur within the thorax. In this work, we propose surgical aggregation, a federated learning framework for aggregating knowledge from class-heterogeneous datasets and learn a model that can simultaneously predict the presence of all disease labels present across the datasets. We evaluate our method using simulated and real-world class-heterogeneous datasets across both independent and identically distributed (iid) and non-iid settings. Our results show that surgical aggregation outperforms current methods, has better generalizability, and is a crucial first step towards tackling class-heterogeneity in federated learning to facilitate the development of clinically-useful models using previously non-interoperable chest x-ray datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google