Sensitive Region-based Metamorphic Testing Framework using Explainable AI

要約

タイトル：説明可能なAIを用いた感度領域ベースのメタモーフィックテストフレームワーク

要約：
・深層学習は機械学習の中でも最も人気のある研究トピックの1つであり、これによってDL駆動の画像認識システムが急速に発展しています。
・最近の研究では、誤分類された画像を検出するためにメタモーフィックテスト（MT）を用いています。しかし、ほとんどの研究はメタモーフィック関係（MR）について議論し、どの領域を変換すべきかについては限られた注意が払われています。
・我々は、小さな変形でも予測結果が容易に変わる感度領域が存在することに注目し、これらの感度領域を変換することで誤分類に対して効率的にテストするMTフレームワークを提案しています。
・我々の評価によると、説明可能なAI（XAI）によって感度領域を指定でき、フレームワークは効果的に誤りを検出することができます。

要約(オリジナル)

Deep Learning (DL) is one of the most popular research topics in machine learning and DL-driven image recognition systems have developed rapidly. Recent research has employed metamorphic testing (MT) to detect misclassified images. Most of them discuss metamorphic relations (MR), with limited attention given to which regions should be transformed. We focus on the fact that there are sensitive regions where even small transformations can easily change the prediction results and propose an MT framework that efficiently tests for regions prone to misclassification by transforming these sensitive regions. Our evaluation demonstrated that the sensitive regions can be specified by Explainable AI (XAI) and our framework effectively detects faults.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI