Federated Ensemble YOLOv5 — A Better Generalized Object Detection Algorithm

要約

フェデレーテッド ラーニング (FL) はプライバシー保護アルゴリズムとして大きな注目を集めていますが、フェデレーテッド平均化 (FedAvg) やフェデレーテッド SGD (Fed SGD) などのフェデレーテッド ラーニング アルゴリズムとアンサンブル学習アルゴリズムの根本的な類似点は十分に調査されていません。
このペーパーの目的は、汎用性を高める方法としての物体検出への FL の適用を検討し、そのパフォーマンスを物体検出アルゴリズムの集中トレーニング アプローチと比較することです。
具体的には、複数のクライアント間で FL を使用してトレーニングされた YOLOv5 モデルのパフォーマンスを調査し、置換なしのランダム サンプリング戦略を採用しているため、各クライアントは集中トレーニングに使用される同じデータセットの一部を保持します。
私たちの実験結果は、トレーニング データセットには表現されていない 2 つの異なるクライアントからのオブジェクトが混合されたテスト セットを使用して、目に見えないオブジェクトの正確な境界ボックスを生成する際の FL オブジェクト検出器のグローバル モデルの優れた効率を示しています。
これらの発見は、FL がバギング技術とブースティング技術の相乗的なブレンドに似た、アンサンブル アルゴリズムの観点から見ることができることを示唆しています。
その結果、FL はプライバシーを強化する方法としてだけでなく、機械学習モデルのパフォーマンスを向上させる方法としても見ることができます。

要約(オリジナル)

Federated learning (FL) has gained significant traction as a privacy-preserving algorithm, but the underlying resemblances of federated learning algorithms like Federated averaging (FedAvg) or Federated SGD (Fed SGD) to ensemble learning algorithms have not been fully explored. The purpose of this paper is to examine the application of FL to object detection as a method to enhance generalizability, and to compare its performance against a centralized training approach for an object detection algorithm. Specifically, we investigate the performance of a YOLOv5 model trained using FL across multiple clients and employ a random sampling strategy without replacement, so each client holds a portion of the same dataset used for centralized training. Our experimental results showcase the superior efficiency of the FL object detector’s global model in generating accurate bounding boxes for unseen objects, with the test set being a mixture of objects from two distinct clients not represented in the training dataset. These findings suggest that FL can be viewed from an ensemble algorithm perspective, akin to a synergistic blend of Bagging and Boosting techniques. As a result, FL can be seen not only as a method to enhance privacy, but also as a method to enhance the performance of a machine learning model.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google