Flame: Simplifying Topology Extension in Federated Learning

要約

幅広い種類のフェデレーテッド ラーニング (FL) 技術を含む分散機械学習アプローチは、広く分散されたインフラストラクチャ上に機械学習アプリケーションを展開する際に多くの利点をもたらします。
利点は、基盤となる機械学習トポロジの詳細に大きく依存します。トポロジは、参加しているノードによって実行される機能、その依存関係、および相互接続を指定します。
現在のシステムには、機械学習導入のトポロジをカスタマイズするために必要な柔軟性と拡張性が欠けています。
特定の展開コンテキストの詳細に基づいて分散 FL アプリケーションのトポロジ構成の柔軟性を提供し、新しい FL アーキテクチャをサポートするために簡単に拡張できる新しいシステムである Flame を紹介します。
Flame は、新しい高レベルの抽象化である Topology Abstraction Graphs (TAG) によってこれを実現します。
TAG は、ML アプリケーションのロジックを基盤となるデプロイメントの詳細から切り離し、開発労力を軽減しながらアプリケーションのデプロイメントを特化できるようにします。
Flame はオープンソース プロジェクトとしてリリースされており、その柔軟性と拡張性によりさまざまなトポロジとメカニズムがサポートされ、新しい FL 方法論の開発が容易になります。

要約(オリジナル)

Distributed machine learning approaches, including a broad class of federated learning (FL) techniques, present a number of benefits when deploying machine learning applications over widely distributed infrastructures. The benefits are highly dependent on the details of the underlying machine learning topology, which specifies the functionality executed by the participating nodes, their dependencies and interconnections. Current systems lack the flexibility and extensibility necessary to customize the topology of a machine learning deployment. We present Flame, a new system that provides flexibility of the topology configuration of distributed FL applications around the specifics of a particular deployment context, and is easily extensible to support new FL architectures. Flame achieves this via a new high-level abstraction Topology Abstraction Graphs (TAGs). TAGs decouple the ML application logic from the underlying deployment details, making it possible to specialize the application deployment with reduced development effort. Flame is released as an open source project, and its flexibility and extensibility support a variety of topologies and mechanisms, and can facilitate the development of new FL methodologies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google