BeeFlow: Behavior Tree-based Serverless Workflow Modeling and Scheduling for Resource-Constrained Edge Clusters

要約

サーバーレス コンピューティングは、従量課金制の価格モデル、自動スケーリング機能、マルチテナントのサポートなどの柔軟な機能により、エッジ コンピューティングで人気を集めています。
複雑なサーバーレス ベースのアプリケーションは通常、タスク実行ロジックを表現するためにサーバーレス ワークフロー (サーバーレス機能オーケストレーションとも呼ばれます) に依存しており、サーバーレス ワークフローのスケジューリング用にアプリケーション レベルおよびシステム レベルの最適化手法が数多く開発されています。
ただし、エッジ コンピューティング システム、特にシステム オン チップ クラスターやシングルボード コンピューター クラスターなどの高密度でリソースに制約のある環境では、サーバーレス ワークフロー スケジューリングの最適化の検討は限られています。
この研究では、既存のサーバーレス ワークフロー スケジューリング技術が通常、表現力が限られたモデルを想定しており、重大なリソース競合を引き起こすことがわかりました。
これらの問題に対処するために、ビヘイビアー ツリーを使用したサーバーレス ワークフローのモデリングを提案します。これは、既存の有向非巡回グラフやステート マシン ベースのモデルとは根本的に異なる斬新なアプローチです。
動作ツリーベースのモデリングにより、ワークフローの表現力を損なうことなく簡単に分析できます。
さらに、競合のない関数コレクションと、正確かつ経験的な同時関数呼び出しの認識に関するビヘイビア ツリーの固有のツリー構造から得られた観察結果を示します。
これらの観察に基づいて、リソースに制約のあるエッジ クラスター向けに調整されたビヘイビアー ツリー ベースのサーバーレス ワークフロー システムである BeeFlow を紹介します。
実験結果では、BeeFlow は、最先端のテストベッドと比較して、高密度でリソースに制約のあるエッジ テストベッドでは最大 3.2 倍の高速化、注目度の高いクラウド テストベッドでは 2.5 倍の高速化を達成することが実証されています。

要約(オリジナル)

Serverless computing has gained popularity in edge computing due to its flexible features, including the pay-per-use pricing model, auto-scaling capabilities, and multi-tenancy support. Complex Serverless-based applications typically rely on Serverless workflows (also known as Serverless function orchestration) to express task execution logic, and numerous application- and system-level optimization techniques have been developed for Serverless workflow scheduling. However, there has been limited exploration of optimizing Serverless workflow scheduling in edge computing systems, particularly in high-density, resource-constrained environments such as system-on-chip clusters and single-board-computer clusters. In this work, we discover that existing Serverless workflow scheduling techniques typically assume models with limited expressiveness and cause significant resource contention. To address these issues, we propose modeling Serverless workflows using behavior trees, a novel and fundamentally different approach from existing directed-acyclic-graph- and state machine-based models. Behavior tree-based modeling allows for easy analysis without compromising workflow expressiveness. We further present observations derived from the inherent tree structure of behavior trees for contention-free function collections and awareness of exact and empirical concurrent function invocations. Based on these observations, we introduce BeeFlow, a behavior tree-based Serverless workflow system tailored for resource-constrained edge clusters. Experimental results demonstrate that BeeFlow achieves up to 3.2X speedup in a high-density, resource-constrained edge testbed and 2.5X speedup in a high-profile cloud testbed, compared with the state-of-the-art.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google