Interpretable and Explainable Machine Learning Methods for Predictive Process Monitoring: A Systematic Literature Review

要約

この論文では、PRISMA フレームワークを使用した、予測プロセス マイニングのコンテキスト内での機械学習 (ML) モデルの説明可能性と解釈可能性に関する系統的文献レビュー (SLR) を紹介します。
人工知能 (AI) と ML システムの急速な進歩を考慮すると、これらのテクノロジーの「ブラックボックス」の性質を理解することがますます重要になっています。
このペーパーでは、特にプロセス マイニングの領域に焦点を当て、複雑なビジネス プロセス データでトレーニングされた ML モデルを解釈する際の課題を詳しく掘り下げます。
私たちは、本質的に解釈可能なモデルと事後説明技術を必要とするモデルを区別し、現在の方法論とさまざまなアプリケーション領域にわたるそのアプリケーションの包括的な概要を提供します。
この研究では、厳密な書誌分析を通じて、予測プロセスマイニングにおける説明可能性と解釈可能性の状態を詳細に統合し、主要な傾向、課題、将来の方向性を特定します。
私たちの調査結果は、予測プロセス分析のための、より信頼性が高く、透明性があり、効果的なインテリジェント システムを開発および実装する方法について、研究者や実務者がより深く理解できるようにすることを目的としています。

要約(オリジナル)

This paper presents a systematic literature review (SLR) on the explainability and interpretability of machine learning (ML) models within the context of predictive process mining, using the PRISMA framework. Given the rapid advancement of artificial intelligence (AI) and ML systems, understanding the ‘black-box’ nature of these technologies has become increasingly critical. Focusing specifically on the domain of process mining, this paper delves into the challenges of interpreting ML models trained with complex business process data. We differentiate between intrinsically interpretable models and those that require post-hoc explanation techniques, providing a comprehensive overview of the current methodologies and their applications across various application domains. Through a rigorous bibliographic analysis, this research offers a detailed synthesis of the state of explainability and interpretability in predictive process mining, identifying key trends, challenges, and future directions. Our findings aim to equip researchers and practitioners with a deeper understanding of how to develop and implement more trustworthy, transparent, and effective intelligent systems for predictive process analytics.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google