A Reference Architecture for Designing Foundation Model based Systems

要約

ChatGPT、Gemini、その他の大規模な言語モデルのリリースにより、基礎モデルに大きな関心が集まっています。
基礎モデルが将来の AI システムの基本的な構成要素になるということについては、幅広いコンセンサスがあります。
しかし、アーキテクチャ設計に関する体系的なガイダンスが不足しています。
特に、基礎モデルの機能が急速に成長すると、最終的には AI システムの他のコンポーネントを吸収する可能性があり、アーキテクチャ設計における境界の移動とインターフェイスの進化という課題が生じます。
さらに、基盤モデルを AI システムに組み込むと、その不透明な性質と急速に進化するインテリジェンスにより、責任ある安全な AI について大きな懸念が生じます。
これらの課題に対処するために、この論文ではまず、「コネクタとしての基盤モデル」から「モノリシック アーキテクチャとしての基盤モデル」への移行という、基盤モデルの時代における AI システムのアーキテクチャ進化を紹介します。
次に、重要な設計上の決定事項を特定し、責任ある基盤モデルベースのシステムを設計するためのパターン指向のリファレンス アーキテクチャを提案します。
このパターンは、関連するリスクを確保しながら、基礎モデルの可能性を有効にすることができます。

要約(オリジナル)

The release of ChatGPT, Gemini, and other large language model has drawn huge interests on foundations models. There is a broad consensus that foundations models will be the fundamental building blocks for future AI systems. However, there is a lack of systematic guidance on the architecture design. Particularly, the the rapidly growing capabilities of foundations models can eventually absorb other components of AI systems, posing challenges of moving boundary and interface evolution in architecture design. Furthermore, incorporating foundations models into AI systems raises significant concerns about responsible and safe AI due to their opaque nature and rapidly advancing intelligence. To address these challenges, the paper first presents an architecture evolution of AI systems in the era of foundation models, transitioning from ‘foundation-model-as-a-connector’ to ‘foundation-model-as-a-monolithic architecture’. The paper then identifies key design decisions and proposes a pattern-oriented reference architecture for designing responsible foundation-model-based systems. The patterns can enable the potential of foundation models while ensuring associated risks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google