Trends in AI Supercomputers

要約

フロンティアAI開発は強力なAIスーパーコンピューターに依存していますが、これらのシステムの分析は限られています。
2019年から2025年までの500 AIスーパーコンピューターのデータセットを作成し、パフォーマンス、電力ニーズ、ハードウェアコスト、所有権、およびグローバルディストリビューションの重要な傾向を分析します。
AIスーパーコンピューターの計算パフォーマンスは9か月ごとに2倍になり、ハードウェアの取得コストと電力のニーズは両方とも毎年2倍になっています。
2025年3月の主要なシステムであるXaiのColossusは、200,000 AIチップを使用し、ハードウェアコストが7億ドルで、250,000世帯もの300 MWの電力が必要でした。
AIスーパーコンピューターが科学のためのツールから産業機械に進化したため、企業はAIスーパーコンピューターの合計パフォーマンスのシェアを急速に拡大し、政府と学界のシェアは減少しました。
世界的に、米国はデータセットの総パフォーマンスの約75％を占めており、中国は15％で2位になりました。
観察された傾向が続くと、2030年の大手AIスーパーコンピューターは$ 2 \ Times10^{22} $ 16ビットフロップ/sを達成し、200万のAIチップを使用し、ハードウェアコストが2,000億ドルで、9 GWの電力が必要です。
私たちの分析は、AIスーパーコンピューターのランドスケープへの可視性を提供し、政策立案者がリソースのニーズ、所有権、国家の競争力などの重要なAIの傾向を評価できるようにします。

要約(オリジナル)

Frontier AI development relies on powerful AI supercomputers, yet analysis of these systems is limited. We create a dataset of 500 AI supercomputers from 2019 to 2025 and analyze key trends in performance, power needs, hardware cost, ownership, and global distribution. We find that the computational performance of AI supercomputers has doubled every nine months, while hardware acquisition cost and power needs both doubled every year. The leading system in March 2025, xAI’s Colossus, used 200,000 AI chips, had a hardware cost of \$7B, and required 300 MW of power, as much as 250,000 households. As AI supercomputers evolved from tools for science to industrial machines, companies rapidly expanded their share of total AI supercomputer performance, while the share of governments and academia diminished. Globally, the United States accounts for about 75% of total performance in our dataset, with China in second place at 15%. If the observed trends continue, the leading AI supercomputer in 2030 will achieve $2\times10^{22}$ 16-bit FLOP/s, use two million AI chips, have a hardware cost of \$200 billion, and require 9 GW of power. Our analysis provides visibility into the AI supercomputer landscape, allowing policymakers to assess key AI trends like resource needs, ownership, and national competitiveness.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google