Scale-Preserving Automatic Concept Extraction (SPACE)

要約

畳み込みニューラル ネットワーク (CNN) は、産業品質管理だけでなく、インダストリー 4.0 の他の重要なアプリケーションでも一般的な選択肢となっています。
これらの CNN が人間のユーザーや開発者にとって予期しない方法で動作すると、経済的損失や人命へのリスクの増加など、深刻な結果が生じる可能性があります。
概念抽出技術を適用すると、トレーニングされたニューラル ネットワーク モデルのグローバルな説明を生成することで、CNN の信頼性と透明性を高めることができます。
品質管理における画像データセットの決定的な特徴は、多くの場合、特徴の規模に依存します。
たとえば、穴やエッジのサイズです。
ただし、既存の概念抽出方法はスケールを正確に表現していないため、ここで示すようにこれらのモデルを解釈する際に問題が発生します。
この問題に対処するために、産業アプリケーションに焦点を当てた、CNN 用の最先端の代替コンセプト抽出技術として、スケール保持自動コンセプト抽出 (SPACE) アルゴリズムを導入します。
SPACE は、コンセプト抽出プロセス全体を通じてスケールの変更を回避することで、前述の問題を解決するように特別に設計されています。
SPACE は、入力画像の正方形のスライスに基づくアプローチを提案しています。入力画像は選択され、概念にクラスター化される前にタイル化されます。
私たちの方法は、人間が理解できる概念の形でモデルの意思決定プロセスの説明を提供します。
産業品質管理の観点から、3 つの画像分類データセットに基づいて SPACE を評価します。
実験結果を通じて、SPACE が他の方法よりも優れたパフォーマンスを示し、CNN の意思決定メカニズムに関する実用的な洞察を提供します。
最後に、SPACE を実装するためのコードが提供されます。

要約(オリジナル)

Convolutional Neural Networks (CNN) have become a common choice for industrial quality control, as well as other critical applications in the Industry 4.0. When these CNNs behave in ways unexpected to human users or developers, severe consequences can arise, such as economic losses or an increased risk to human life. Concept extraction techniques can be applied to increase the reliability and transparency of CNNs through generating global explanations for trained neural network models. The decisive features of image datasets in quality control often depend on the feature’s scale; for example, the size of a hole or an edge. However, existing concept extraction methods do not correctly represent scale, which leads to problems interpreting these models as we show herein. To address this issue, we introduce the Scale-Preserving Automatic Concept Extraction (SPACE) algorithm, as a state-of-the-art alternative concept extraction technique for CNNs, focused on industrial applications. SPACE is specifically designed to overcome the aforementioned problems by avoiding scale changes throughout the concept extraction process. SPACE proposes an approach based on square slices of input images, which are selected and then tiled before being clustered into concepts. Our method provides explanations of the models’ decision-making process in the form of human-understandable concepts. We evaluate SPACE on three image classification datasets in the context of industrial quality control. Through experimental results, we illustrate how SPACE outperforms other methods and provides actionable insights on the decision mechanisms of CNNs. Finally, code for the implementation of SPACE is provided.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google