An Efficient Industrial Federated Learning Framework for AIoT: A Face Recognition Application

要約

最近、人工知能（AIoT）が注目を集めており、モノのネットワーク接続を通じて高度なインテリジェントサービスを提供するという興味深いビジョンがあり、高度なAI主導のエコロジーにつながっています。
ただし、データプライバシーに関する最近の規制により、機密性の高いローカルデータをデータセンターにアップロードして一元化されたアプローチで利用することはできません。
このシナリオで連合学習アルゴリズムを直接適用することは、効率と精度の両方の産業要件を満たすことはほとんどできません。
したがって、顔認識アプリケーションの観点から、AIoTの効率的な産業連合学習フレームワークを提案します。
具体的には、転送学習の概念を利用してデバイスのフェデレーショントレーニングを高速化し、追加のメモリ消費や計算コストを発生させることなく共有勾配を保護するのに役立つプライベートプロジェクターの新しい設計をさらに提示することを提案します。
プライベートアジアの顔データセットに関する経験的研究は、私たちのアプローチがわずか20回の通信ラウンドで高い認識精度を達成できることを示しており、予測におけるその有効性とトレーニングにおけるその効率を示しています。

要約(オリジナル)

Recently, the artificial intelligence of things (AIoT) has been gaining increasing attention, with an intriguing vision of providing highly intelligent services through the network connection of things, leading to an advanced AI-driven ecology. However, recent regulatory restrictions on data privacy preclude uploading sensitive local data to data centers and utilizing them in a centralized approach. Directly applying federated learning algorithms in this scenario could hardly meet the industrial requirements of both efficiency and accuracy. Therefore, we propose an efficient industrial federated learning framework for AIoT in terms of a face recognition application. Specifically, we propose to utilize the concept of transfer learning to speed up federated training on devices and further present a novel design of a private projector that helps protect shared gradients without incurring additional memory consumption or computational cost. Empirical studies on a private Asian face dataset show that our approach can achieve high recognition accuracy in only 20 communication rounds, demonstrating its effectiveness in prediction and its efficiency in training.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google