Federated Zeroth-Order Optimization using Trajectory-Informed Surrogate Gradients

要約

フェデレーション最適化は、フェデレーテッド ラーニングなどの広範な現実世界のアプリケーションを見つける新しいパラダイムで、複数のクライアント (エッジ デバイスなど) が協力してグローバル機能を最適化できるようにします。
クライアントはローカル データセットを共有せず、通常はローカル グラデーションのみを共有します。
ただし、勾配情報はフェデレーテッド最適化の多くのアプリケーションでは利用できないため、フェデレーテッド 0 次最適化 (ZOO) のパラダイムが生じます。
既存のフェデレーテッド ZOO アルゴリズムは、クエリと通信の非効率性という制限に悩まされています。その原因としては、(a) 勾配推定のためにかなりの数の関数クエリに依存していること、(b) 実現されたローカル更新と意図されたグローバル更新との間に大きな差異があることが考えられます。
更新情報。
この目的を達成するために、(a) 最適化中に関数クエリの履歴を使用して、正確かつクエリ効率の高い勾配推定を行うことができる、軌道情報に基づいた勾配サロゲートを導入します。(b) これらの勾配サロゲートを使用した適応勾配補正技術を開発します。
前述の格差を緩和するためです。
これらに基づいて、クエリと通信効率の高いフェデレーテッド ZOO のための、軌跡情報に基づいたサロゲート勾配 (FZooS) アルゴリズムを使用したフェデレーテッド 0 次最適化を提案します。
当社の FZooS は、既存のアプローチに比べて理論上の改善を達成しています。これは、フェデレーテッド ブラック ボックス敵対攻撃やフェデレーテッド非微分可能メトリック最適化などの実際の実験によって裏付けられています。

要約(オリジナル)

Federated optimization, an emerging paradigm which finds wide real-world applications such as federated learning, enables multiple clients (e.g., edge devices) to collaboratively optimize a global function. The clients do not share their local datasets and typically only share their local gradients. However, the gradient information is not available in many applications of federated optimization, which hence gives rise to the paradigm of federated zeroth-order optimization (ZOO). Existing federated ZOO algorithms suffer from the limitations of query and communication inefficiency, which can be attributed to (a) their reliance on a substantial number of function queries for gradient estimation and (b) the significant disparity between their realized local updates and the intended global updates. To this end, we (a) introduce trajectory-informed gradient surrogates which is able to use the history of function queries during optimization for accurate and query-efficient gradient estimation, and (b) develop the technique of adaptive gradient correction using these gradient surrogates to mitigate the aforementioned disparity. Based on these, we propose the federated zeroth-order optimization using trajectory-informed surrogate gradients (FZooS) algorithm for query- and communication-efficient federated ZOO. Our FZooS achieves theoretical improvements over the existing approaches, which is supported by our real-world experiments such as federated black-box adversarial attack and federated non-differentiable metric optimization.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google