PAAM: A Framework for Coordinated and Priority-Driven Accelerator Management in ROS 2

要約

このペーパーでは、ロボット オペレーティング システム (ROS) 2 ミドルウェア プラットフォーム上に構築されたマルチプロセス ロボット アプリケーション向けの優先度駆動型アクセラレータ アクセス管理 (PAAM) フレームワークを提案します。
このフレームワークは、GPU や TPU などのハードウェア アクセラレータを必要とする、時間と安全性が重要なコールバック チェーンの予測可能な実行の問題に対処します。
PAAM は、アクセラレータ リソース サーバーとして機能するスタンドアロンの ROS エグゼキュータを提供し、アプリケーション層で他のすべてのコールバックからのアクセラレータ アクセス要求を調停します。
このアプローチにより、マルチプロセス ロボット システムにおける調整された優先順位主導のアクセラレータ アクセス管理が可能になります。
このフレームワーク設計は、あらゆる種類のアクセラレータに直接適用でき、特定のチェーンがアクセラレータにアクセスする方法をきめ細かく制御できるため、基盤となるアクセラレータ デバイス ドライバを変更することなく、セーフティ クリティカルなコールバック チェーンで使用されるアクセラレータの予測可能なリアルタイム サポートを実現できます。
この論文では、PAAM が、アクセラレータへのアクセスを必要とするセーフティ クリティカルなコールバック チェーンの最悪の場合の応答時間の上限を設定できる理論的分析も提供していることを示しています。
このペーパーでは、PAAM と統合され、広範囲のアクセラレータを使用する複雑なロボット システムが、重要なコールバック チェーンのエンドツーエンドの応答時間を最大 91\% 削減できる可能性があることも示しています。

要約(オリジナル)

This paper proposes a Priority-driven Accelerator Access Management (PAAM) framework for multi-process robotic applications built on top of the Robot Operating System (ROS) 2 middleware platform. The framework addresses the issue of predictable execution of time- and safety-critical callback chains that require hardware accelerators such as GPUs and TPUs. PAAM provides a standalone ROS executor that acts as an accelerator resource server, arbitrating accelerator access requests from all other callbacks at the application layer. This approach enables coordinated and priority-driven accelerator access management in multi-process robotic systems. The framework design is directly applicable to all types of accelerators and enables granular control over how specific chains access accelerators, making it possible to achieve predictable real-time support for accelerators used by safety-critical callback chains without making changes to underlying accelerator device drivers. The paper shows that PAAM also offers a theoretical analysis that can upper bound the worst-case response time of safety-critical callback chains that necessitate accelerator access. This paper also demonstrates that complex robotic systems with extensive accelerator usage that are integrated with PAAM may achieve up to a 91\% reduction in end-to-end response time of their critical callback chains.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google