Explaining high-dimensional text classifiers

要約

説明可能性はここ数年で貴重なツールとなり、人間が AI に基づいた意思決定をよりよく理解できるようになりました。
ただし、高次元の入力とニューラル ネットワーク分類器を考慮すると、古典的な説明可能性ツールは非常に制限されることがあります。
ニューラル ネットワーク分類器の理論的に証明された高次元特性を使用した、新しい説明可能性手法を提案します。
1) IMDB レビュー データセットの古典的なセンチメント分析タスク、2) PowerShell スクリプト データセットのマルウェア検出タスクの 2 つの使用法を紹介します。

要約(オリジナル)

Explainability has become a valuable tool in the last few years, helping humans better understand AI-guided decisions. However, the classic explainability tools are sometimes quite limited when considering high-dimensional inputs and neural network classifiers. We present a new explainability method using theoretically proven high-dimensional properties in neural network classifiers. We present two usages of it: 1) On the classical sentiment analysis task for the IMDB reviews dataset, and 2) our Malware-Detection task for our PowerShell scripts dataset.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google