Spatial-Temporal Federated Learning for Lifelong Person Re-identification on Distributed Edges

要約

データのドリフトは、個人再識別 (ReID) モデルを実世界のデバイスに展開する際の厄介な課題です。データの分布はトレーニング環境の分布とは大きく異なり、変化し続けます。
この問題に取り組むために、私たちは FedSTIL と呼ばれるフェデレーテッド時空間増分学習アプローチを提案します。これは、生涯学習とフェデレーテッド ラーニングの両方を活用して、多くの分散エッジ クライアントにデプロイされたモデルを継続的に最適化します。
これまでの取り組みとは異なり、FedSTIL は、さまざまなエッジ クライアントから学習した知識間の時空間相関を掘り出すことを目的としています。
具体的には、エッジ クライアントはまず、ドリフト データの一般的な表現を定期的に抽出して、ローカル モデルを最適化します。
次に、エッジ クライアントから学習された知識は集中パラメータ サーバーによって集約され、そこで慎重に設計されたメカニズムによって空間次元および時間次元から知識が選択的かつ注意深く抽出されます。
最後に、蒸留された有益な時空間知識は、相関するエッジ クライアントに送り返され、生涯学習手法により各エッジ クライアントの認識精度がさらに向上します。
5 つの現実世界のデータセットを混合した広範な実験により、私たちの方法がランク 1 の精度で他の方法よりも 4% 近く優れ、通信コストを 62% 削減できることが実証されました。
すべての実装コードは https://github.com/MSNLAB/Federated-Lifelong-person-ReID で公開されています。

要約(オリジナル)

Data drift is a thorny challenge when deploying person re-identification (ReID) models into real-world devices, where the data distribution is significantly different from that of the training environment and keeps changing. To tackle this issue, we propose a federated spatial-temporal incremental learning approach, named FedSTIL, which leverages both lifelong learning and federated learning to continuously optimize models deployed on many distributed edge clients. Unlike previous efforts, FedSTIL aims to mine spatial-temporal correlations among the knowledge learnt from different edge clients. Specifically, the edge clients first periodically extract general representations of drifted data to optimize their local models. Then, the learnt knowledge from edge clients will be aggregated by centralized parameter server, where the knowledge will be selectively and attentively distilled from spatial- and temporal-dimension with carefully designed mechanisms. Finally, the distilled informative spatial-temporal knowledge will be sent back to correlated edge clients to further improve the recognition accuracy of each edge client with a lifelong learning method. Extensive experiments on a mixture of five real-world datasets demonstrate that our method outperforms others by nearly 4% in Rank-1 accuracy, while reducing communication cost by 62%. All implementation codes are publicly available on https://github.com/MSNLAB/Federated-Lifelong-Person-ReID

arxiv情報

提供元, 利用サービス

arxiv.jp, Google