Towards an MLOps Architecture for XAI in Industrial Applications

要約

機械学習 (ML) は、業務の改善、効率の向上、コストの削減に役立つため、産業分野で人気のツールとなっています。
ただし、実稼働環境での ML モデルのデプロイと管理は複雑になる場合があります。
ここで、Machine Learning Operations (MLOps) が登場します。MLOps は、この導入と管理のプロセスを合理化することを目的としています。
MLOps の残りの課題の 1 つは、説明の必要性です。
これらの説明は、信頼と受け入れの鍵となる ML モデルの推論方法を理解するために不可欠です。
エラーの特定の改善とモデルの精度の向上は、結果として得られる利点の 2 つにすぎません。
無視されがちな事実は、精度と特に説明可能性がユーザーの期待を満たさない場合、デプロイされたモデルは実際にはバイパスされるということです。
私たちは、説明とフィードバック機能を ML の開発および展開プロセスに統合するという課題に対処するために、新しい MLOps ソフトウェア アーキテクチャを開発しました。
EXPLAIN プロジェクトでは、私たちのアーキテクチャが一連の産業用ユースケースに実装されています。
提案された MLOps ソフトウェア アーキテクチャにはいくつかの利点があります。
これは、実稼働環境で ML モデルを管理する効率的な方法を提供します。
さらに、開発および展開プロセスに説明を統合することができます。

要約(オリジナル)

Machine learning (ML) has become a popular tool in the industrial sector as it helps to improve operations, increase efficiency, and reduce costs. However, deploying and managing ML models in production environments can be complex. This is where Machine Learning Operations (MLOps) comes in. MLOps aims to streamline this deployment and management process. One of the remaining MLOps challenges is the need for explanations. These explanations are essential for understanding how ML models reason, which is key to trust and acceptance. Better identification of errors and improved model accuracy are only two resulting advantages. An often neglected fact is that deployed models are bypassed in practice when accuracy and especially explainability do not meet user expectations. We developed a novel MLOps software architecture to address the challenge of integrating explanations and feedback capabilities into the ML development and deployment processes. In the project EXPLAIN, our architecture is implemented in a series of industrial use cases. The proposed MLOps software architecture has several advantages. It provides an efficient way to manage ML models in production environments. Further, it allows for integrating explanations into the development and deployment processes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google