Equilibrium in the Computing Continuum through Active Inference

要約

Computing Continuum (CC) システムは、各計算層の複雑な要件を確実に満たすという課題に直面しています。
システムの規模を考慮すると、これらの要件として表現されるサービス レベル目標 (SLO) は、分散化できる小さな部分に分割する必要があります。
私たちは、個々のエッジ デバイスが (1) SLO を強制する方法について因果関係を理解し​​、(2) 異種デバイスのオンボーディングを加速するための知識を伝達できるようにする、協調的なエッジ インテリジェンスのフレームワークを紹介します。
コラボレーションを通じて、(3) SLO 履行の範囲を拡大します。
私たちはフレームワークを実装し、ビデオ ストリーミング中に CC システムがサービス品質 (QoS) とエクスペリエンス品質 (QoE) を保証する役割を担うユースケースを評価しました。
私たちの結果は、エッジ デバイスが 4 つの SLO を保証するために必要なトレーニング ラウンドはわずか 10 ラウンドであることを示しました。
さらに、根底にある因果構造も合理的に説明可能でした。
新しいタイプのデバイスの追加は事後的に行うことができ、フレームワークにより、デバイス タイプが不明であっても既存のモデルを再利用することができました。
最後に、デバイス クラスター内の負荷のバランスを再調整することで、ネットワーク障害後に個々のエッジ デバイスが SLO 準拠を 22% から 89% に回復できるようになりました。

要約(オリジナル)

Computing Continuum (CC) systems are challenged to ensure the intricate requirements of each computational tier. Given the system’s scale, the Service Level Objectives (SLOs) which are expressed as these requirements, must be broken down into smaller parts that can be decentralized. We present our framework for collaborative edge intelligence enabling individual edge devices to (1) develop a causal understanding of how to enforce their SLOs, and (2) transfer knowledge to speed up the onboarding of heterogeneous devices. Through collaboration, they (3) increase the scope of SLO fulfillment. We implemented the framework and evaluated a use case in which a CC system is responsible for ensuring Quality of Service (QoS) and Quality of Experience (QoE) during video streaming. Our results showed that edge devices required only ten training rounds to ensure four SLOs; furthermore, the underlying causal structures were also rationally explainable. The addition of new types of devices can be done a posteriori, the framework allowed them to reuse existing models, even though the device type had been unknown. Finally, rebalancing the load within a device cluster allowed individual edge devices to recover their SLO compliance after a network failure from 22% to 89%.

arxiv情報

著者 Boris Sedlak,Victor Casamayor Pujol,Praveen Kumar Donta,Schahram Dustdar
発行日 2023-11-28 13:19:54+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.DC, cs.LG, cs.PF, cs.SY, eess.SY パーマリンク