A Systematic Literature Review on Explainability for Machine/Deep Learning-based Software Engineering Research

要約

特に機械学習（ML）およびディープラーニング（DL）における人工知能（AI）アルゴリズムの顕著な成果は、ソフトウェアエンジニアリング（SE）を含む複数のセクターにおける広範な展開を促進しました。
ただし、ブラックボックスの性質により、これらの有望なAI駆動型SEモデルは、実際に展開されていないことには程遠いものです。
この説明可能性の欠如は、意思決定の透明性が最も重要である脆弱性検出など、重要なタスクでのアプリケーションに望ましくないリスクをもたらします。
この論文は、SEのコンテキスト内でAIモデルの説明可能性を改善することを目的とするアプローチの体系的な文献レビューを提示することにより、この学際的なドメインを解明するよう努めています。
レビューキャンバスは、最も顕著なSE＆AI会議とジャーナルに登場する作業を行い、23のユニークなSEタスクにわたって108の論文にまたがっています。
3つの主要な研究質問（RQ）に基づいて、（1）Xaiテクニックがこれまでに成功したSEタスクを要約することを目指しています。
（2）さまざまなXAI技術を分類および分析します。
（3）既存の評価アプローチを調査する。
調査結果に基づいて、既存の研究で対処されるために残っている一連の課題を特定し、将来の仕事に適切かつ重要であると考える潜在的な機会を強調する一連のガイドラインを特定しました。

要約(オリジナル)

The remarkable achievements of Artificial Intelligence (AI) algorithms, particularly in Machine Learning (ML) and Deep Learning (DL), have fueled their extensive deployment across multiple sectors, including Software Engineering (SE). However, due to their black-box nature, these promising AI-driven SE models are still far from being deployed in practice. This lack of explainability poses unwanted risks for their applications in critical tasks, such as vulnerability detection, where decision-making transparency is of paramount importance. This paper endeavors to elucidate this interdisciplinary domain by presenting a systematic literature review of approaches that aim to improve the explainability of AI models within the context of SE. The review canvasses work appearing in the most prominent SE & AI conferences and journals, and spans 108 papers across 23 unique SE tasks. Based on three key Research Questions (RQs), we aim to (1) summarize the SE tasks where XAI techniques have shown success to date; (2) classify and analyze different XAI techniques; and (3) investigate existing evaluation approaches. Based on our findings, we identified a set of challenges remaining to be addressed in existing studies, together with a set of guidelines highlighting potential opportunities we deemed appropriate and important for future work.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google