Real-world Machine Learning Systems: A survey from a Data-Oriented Architecture Perspective

要約

人工知能への関心の高まりに伴い、機械学習モデルは現実世界のシステムの一部として導入されています。
このようなシステムの設計、実装、保守は、大量の異種データを生成する現実の環境と、効率的なリソース消費によるますます高速な応答を求めるユーザーによって課題が課されています。
これらの要件により、ML ベースのシステムを展開する際に、一般的なソフトウェア アーキテクチャが限界まで押し上げられます。
データ指向アーキテクチャ (DOA) は、ML モデルの統合に適したシステムを提供する新しい概念です。
DOA は現在のアーキテクチャを拡張して、データ駆動型、疎結合、分散型のオープン システムを作成します。
導入された ML ベースのシステムに関する論文では DOA について言及していませんが、その著者は暗黙的に DOA に従う設計決定を行っています。
これらのシステムで DOA が採用される理由、方法、および範囲は不明です。
暗黙的な設計決定により、現実世界で ML ベースのシステムを設計するための DOA に関する実務者の知識が制限されます。
このペーパーでは、ML ベースのシステムの実際の展開を調査することで、これらの質問に答えます。
この調査では、システムの設計上の決定と、それらが満たす要件が示されます。
調査結果に基づいて、ML ベースのシステムの導入を促進するための実践的なアドバイスも作成します。
最後に、ML モデルを統合する DOA ベースのシステムを導入する際の未解決の課題について概説します。

要約(オリジナル)

Machine Learning models are being deployed as parts of real-world systems with the upsurge of interest in artificial intelligence. The design, implementation, and maintenance of such systems are challenged by real-world environments that produce larger amounts of heterogeneous data and users requiring increasingly faster responses with efficient resource consumption. These requirements push prevalent software architectures to the limit when deploying ML-based systems. Data-oriented Architecture (DOA) is an emerging concept that equips systems better for integrating ML models. DOA extends current architectures to create data-driven, loosely coupled, decentralised, open systems. Even though papers on deployed ML-based systems do not mention DOA, their authors made design decisions that implicitly follow DOA. The reasons why, how, and the extent to which DOA is adopted in these systems are unclear. Implicit design decisions limit the practitioners’ knowledge of DOA to design ML-based systems in the real world. This paper answers these questions by surveying real-world deployments of ML-based systems. The survey shows the design decisions of the systems and the requirements these satisfy. Based on the survey findings, we also formulate practical advice to facilitate the deployment of ML-based systems. Finally, we outline open challenges to deploying DOA-based systems that integrate ML models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google