Federated Learning Across Decentralized and Unshared Archives for Remote Sensing Image Classification

要約

フェデレーション ラーニング (FL) を使用すると、クライアント上のデータにアクセスせずに、複数のディープ ラーニング モデルを連携して分散データ アーカイブ (つまり、クライアント) から学習できます。
FL は分散画像アーカイブからの知識発見の機会を十分に提供しますが、リモート センシング (RS) ではほとんど考慮されていません。
この論文では、RS で初めて、最先端の FL アルゴリズムの比較研究を紹介します。
この目的を達成するために、私たちはまず、画像分類問題に関してコンピューター ビジョン コミュニティで提示されている FL アルゴリズムを体系的にレビューし、クライアント間のトレーニング データの異質性に関する有効性に基づいて、いくつかの最先端の FL アルゴリズムを選択します (
非 IID データとして知られています)。
選択したアルゴリズムの広範な概要を提示した後、アルゴリズムの理論的比較が以下に基づいて行われます。1) ローカル トレーニングの複雑さ。
2) 集計の複雑さ。
3）学習効率。
4）通信費。
5) クライアント数に関するスケーラビリティ。
分類タスクとして、RS 画像は通常複数のクラスで構成され、同時に複数のラベルに関連付けることができるため、マルチラベル分類 (MLC) 問題を考慮します。
理論的比較の後、MLC パフォーマンスの観点から、さまざまな分散シナリオの下でそれらを比較するための実験分析が提示されます。
包括的な分析に基づいて、RS で適切な FL アルゴリズムを選択するためのガイドラインを最終的に導き出します。
この作業のコードは https://git.tu-berlin.de/rsim/FL-RS で公開されます。

要約(オリジナル)

Federated learning (FL) enables the collaboration of multiple deep learning models to learn from decentralized data archives (i.e., clients) without accessing data on clients. Although FL offers ample opportunities in knowledge discovery from distributed image archives, it is seldom considered in remote sensing (RS). In this paper, as a first time in RS, we present a comparative study of state-of-the-art FL algorithms. To this end, we initially provide a systematic review of the FL algorithms presented in the computer vision community for image classification problems, and select several state-of-the-art FL algorithms based on their effectiveness with respect to training data heterogeneity across clients (known as non-IID data). After presenting an extensive overview of the selected algorithms, a theoretical comparison of the algorithms is conducted based on their: 1) local training complexity; 2) aggregation complexity; 3) learning efficiency; 4) communication cost; and 5) scalability in terms of number of clients. As the classification task, we consider multi-label classification (MLC) problem since RS images typically consist of multiple classes, and thus can simultaneously be associated with multi-labels. After the theoretical comparison, experimental analyses are presented to compare them under different decentralization scenarios in terms of MLC performance. Based on our comprehensive analyses, we finally derive a guideline for selecting suitable FL algorithms in RS. The code of this work will be publicly available at https://git.tu-berlin.de/rsim/FL-RS.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google