Cross-domain Federated Object Detection

要約

一方の当事者 (サーバーを含む) によってトレーニングされた検出モデルは、他のユーザー (クライアント) に配布されると重大なパフォーマンスの低下に直面する可能性があります。
フェデレーション ラーニングを使用すると、クライアント データを漏らすことなく、複数のパーティによる共同学習を実現できます。
このペーパーでは、サーバーには大規模なラベル付きデータがあり、複数のクライアントには少量のラベル付きデータしかないという特殊なクロスドメイン シナリオに焦点を当てます。
一方、クライアント間のデータ分布には差異が存在します。
この場合、従来のフェデレーテッド ラーニング手法では、クライアントがすべての参加者のグローバルな知識とクライアント自身の固有の知識の両方を学習するのには役立ちません。
この制限を補うために、FedOD という名前のクロスドメイン統合オブジェクト検出フレームワークを提案します。
提案されたフレームワークは、最初にフェデレーテッド トレーニングを実行して、複数教師の蒸留を通じてパブリックのグローバル集約モデルを取得し、その集約モデルを各クライアントに送り返して、パーソナライズされたローカル モデルを微調整します。
数ラウンドの通信の後、各クライアントで、パブリック グローバル モデルとパーソナライズされたローカル モデルに対して重み付きアンサンブル推論を実行できます。
私たちは、複数の公共の自動運転データセットに基づいて、大きな背景の違いとインスタンスの違いを持つ連合物体検出データセットを確立し、そのデータセットに対して広範な実験を実施します。
実験結果は、提案された方法の有効性を検証します。

要約(オリジナル)

Detection models trained by one party (including server) may face severe performance degradation when distributed to other users (clients). Federated learning can enable multi-party collaborative learning without leaking client data. In this paper, we focus on a special cross-domain scenario in which the server has large-scale labeled data and multiple clients only have a small amount of labeled data; meanwhile, there exist differences in data distributions among the clients. In this case, traditional federated learning methods can’t help a client learn both the global knowledge of all participants and its own unique knowledge. To make up for this limitation, we propose a cross-domain federated object detection framework, named FedOD. The proposed framework first performs the federated training to obtain a public global aggregated model through multi-teacher distillation, and sends the aggregated model back to each client for fine-tuning its personalized local model. After a few rounds of communication, on each client we can perform weighted ensemble inference on the public global model and the personalized local model. We establish a federated object detection dataset which has significant background differences and instance differences based on multiple public autonomous driving datasets, and then conduct extensive experiments on the dataset. The experimental results validate the effectiveness of the proposed method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google