The Vision of Autonomic Computing: Can LLMs Make It a Reality?

要約

20 年以上前に提案されたオートノミック コンピューティング (ACV) のビジョンでは、生物有機体と同様に自己管理し、変化する環境にシームレスに適応するコンピューティング システムを構想しています。
数十年にわたる研究にもかかわらず、最新のコンピューティング システムの動的で複雑な性質により、ACV を達成することは依然として困難です。
大規模言語モデル (LLM) の最近の進歩により、その広範な知識、言語理解、タスク自動化機能を活用することで、これらの課題に対する有望なソリューションが提供されます。
このペーパーでは、マイクロサービス管理のための LLM ベースのマルチエージェント フレームワークを通じて ACV を実現する実現可能性を検討します。
自律的なサービス保守のための 5 レベルの分類を導入し、フレームワークのパフォーマンスを評価するための Sock Shop マイクロサービス デモ プロジェクトに基づくオンライン評価ベンチマークを示します。
私たちの調査結果は、レベル 3 の自律性の達成に向けた大きな進歩を示しており、マイクロサービス アーキテクチャ内の問題の検出と解決における LLM の有効性を強調しています。
この研究は、マイクロサービス管理フレームワークへの LLM の統合を先駆的に行い、より適応性のある自己管理コンピューティング システムへの道を開くことで、オートノミック コンピューティングの進歩に貢献します。
コードは https://aka.ms/ACV-LLM で利用可能になります。

要約(オリジナル)

The Vision of Autonomic Computing (ACV), proposed over two decades ago, envisions computing systems that self-manage akin to biological organisms, adapting seamlessly to changing environments. Despite decades of research, achieving ACV remains challenging due to the dynamic and complex nature of modern computing systems. Recent advancements in Large Language Models (LLMs) offer promising solutions to these challenges by leveraging their extensive knowledge, language understanding, and task automation capabilities. This paper explores the feasibility of realizing ACV through an LLM-based multi-agent framework for microservice management. We introduce a five-level taxonomy for autonomous service maintenance and present an online evaluation benchmark based on the Sock Shop microservice demo project to assess our framework’s performance. Our findings demonstrate significant progress towards achieving Level 3 autonomy, highlighting the effectiveness of LLMs in detecting and resolving issues within microservice architectures. This study contributes to advancing autonomic computing by pioneering the integration of LLMs into microservice management frameworks, paving the way for more adaptive and self-managing computing systems. The code will be made available at https://aka.ms/ACV-LLM.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google