Explainable Artificial Intelligence Techniques for Accurate Fault Detection and Diagnosis: A Review

要約

製造業がセンサーの統合と自動化を進めるにつれて、機械学習における深層学習モデルの不透明な性質が、障害の検出と診断に重大な課題をもたらしています。
また、人工知能 (AI) が提供できる関連する予測洞察にもかかわらず、高度な機械学習エンジンはブラックボックスのままであることがよくあります。
このペーパーでは、この文脈における eXplainable AI (XAI) ツールと技術をレビューします。
私たちは、特に人間が関与する重要なシナリオにおいて、AI の意思決定を透明化する際の XAI の役割に焦点を当て、さまざまな XAI 方法論を検討します。
また、現在の限界と、重要な産業ユースケース向けの AI アプリケーションのコンテキストで信頼性を向上させながら、説明可能性とモデルのパフォーマンスのバランスをとることを目的とした将来の研究についても説明します。

要約(オリジナル)

As the manufacturing industry advances with sensor integration and automation, the opaque nature of deep learning models in machine learning poses a significant challenge for fault detection and diagnosis. And despite the related predictive insights Artificial Intelligence (AI) can deliver, advanced machine learning engines often remain a black box. This paper reviews the eXplainable AI (XAI) tools and techniques in this context. We explore various XAI methodologies, focusing on their role in making AI decision-making transparent, particularly in critical scenarios where humans are involved. We also discuss current limitations and potential future research that aims to balance explainability with model performance while improving trustworthiness in the context of AI applications for critical industrial use cases.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google