Seamless Optical Cloud Computing across Edge-Metro Network for Generative AI

要約

近年の生成人工知能（AI）の急速な進歩は、現代のライフスタイルを深く再形成し、計算力に対する需要の高まりをサポートするための革新的なアーキテクチャを必要としています。
クラウドコンピューティングは、この変換の原動力となっています。
ただし、クラウド内の広範なデータセンターとサーバーに依存しているため、大幅なパワーを消費し、計算セキュリティリスクに直面しています。
計算スケールを強化しながら消費電力を削減することは、クラウドコンピューティングにおける持続的な課題のままです。
ここでは、Edge-Metroネットワーク全体にシームレスに展開できる光学クラウドコンピューティングシステムを提案し、実験的に実証します。
入力とモデルを光に変調することにより、広範囲のエッジノードがエッジメトロネットワークを介して光学コンピューティングセンターに直接アクセスできます。
実験的検証は、118.6 MW/TOPS（1秒あたりのTERA操作）のエネルギー効率を示しており、従来の電子ベースのクラウドコンピューティングソリューションと比較してエネルギー消費量を2桁減らします。
さらに、このアーキテクチャは、画像生成タスクを実現するために並列コンピューティングを通じてさまざまな複雑な生成AIモデルを実行できることが実験的に検証されています。

要約(オリジナル)

The rapid advancement of generative artificial intelligence (AI) in recent years has profoundly reshaped modern lifestyles, necessitating a revolutionary architecture to support the growing demands for computational power. Cloud computing has become the driving force behind this transformation. However, it consumes significant power and faces computation security risks due to the reliance on extensive data centers and servers in the cloud. Reducing power consumption while enhancing computational scale remains persistent challenges in cloud computing. Here, we propose and experimentally demonstrate an optical cloud computing system that can be seamlessly deployed across edge-metro network. By modulating inputs and models into light, a wide range of edge nodes can directly access the optical computing center via the edge-metro network. The experimental validations show an energy efficiency of 118.6 mW/TOPs (tera operations per second), reducing energy consumption by two orders of magnitude compared to traditional electronic-based cloud computing solutions. Furthermore, it is experimentally validated that this architecture can perform various complex generative AI models through parallel computing to achieve image generation tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google