Transformer-Based Model for Cold Start Mitigation in FaaS Architecture

要約

サーバーレスアーキテクチャ、特にサービス（FAAS）モデルとしての機能は、リソース管理を簡素化し、アプリケーションの展開の俊敏性を強化する能力により、最新のクラウドコンピューティングの基礎となっています。
ただし、重要な課題は残っています。コールドスタートの問題です。
この現象は、アイドル状態のFAAS関数が呼び出されたときに発生し、完全な初期化プロセスが必要であり、レイテンシを増加させ、ユーザーエクスペリエンスを低下させます。
コールドスタート緩和のための既存のソリューションは、呼び出しパターンの一般化と実装の複雑さの点で制限されています。
この研究では、トランスモデルを活用してFAASアーキテクチャでのコールドスタートの影響を軽減する革新的なアプローチを提案します。
当社のソリューションは、機能の初期化の遅延の正確なモデリングとサーバーレスシステムのパフォーマンスを最適化することに優れています。
Azureが提供する公開データセットを使用した実験的評価は、寒冷開始時間の大幅な減少を示しており、従来の方法と比較して最大79％に達します。

要約(オリジナル)

Serverless architectures, particularly the Function as a Service (FaaS) model, have become a cornerstone of modern cloud computing due to their ability to simplify resource management and enhance application deployment agility. However, a significant challenge remains: the cold start problem. This phenomenon occurs when an idle FaaS function is invoked, requiring a full initialization process, which increases latency and degrades user experience. Existing solutions for cold start mitigation are limited in terms of invocation pattern generalization and implementation complexity. In this study, we propose an innovative approach leveraging Transformer models to mitigate the impact of cold starts in FaaS architectures. Our solution excels in accurately modeling function initialization delays and optimizing serverless system performance. Experimental evaluation using a public dataset provided by Azure demonstrates a significant reduction in cold start times, reaching up to 79\% compared to conventional methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google