Explainable Generative AI (GenXAI): A Survey, Conceptualization, and Research Agenda

要約

生成 AI (GenAI) は、認識できる AI から、さまざまなタスクに対するソリューションを生成できる AI への移行を示しました。
生成されるソリューションとアプリケーションがますます複雑かつ多面的になるにつれて、説明可能性 (XAI) に対する新たなニーズ、目的、可能性が浮上しています。
この研究では、GenAI の台頭により XAI の重要性が高まった理由と、説明可能性研究における XAI の課題について詳しく説明します。
また、検証可能性、対話性、セキュリティ、コストなどの側面をカバーし、説明が満たすべき新規かつ新たな要望も明らかにします。
そのために、私たちは既存の作品の調査に重点を置きます。
さらに、GenAI の既存の XAI メカニズムとメソッドをより適切に特徴付けることを可能にする、関連する次元の分類法を提供します。
トレーニング データからプロンプトまで、XAI を確保するためのさまざまな手段について説明します。
私たちの論文は、技術者以外の読者向けに、GenAI の新規または適応された XAI 技術をよりよく理解するためにテキストと画像に焦点を当てて、GenAI の短くても簡潔な技術的背景を提供します。
ただし、GenAI に関する作業は膨大であるため、説明の評価と使用法に関する XAI の詳細な側面については省略することにしました。
そのため、この原稿は、技術志向の人々と、社会科学者や情報システム研究者などの他の専門分野の両方に興味を持っています。
私たちの研究ロードマップは、将来の研究に向けて 10 以上の方向性を示しています。

要約(オリジナル)

Generative AI (GenAI) marked a shift from AI being able to recognize to AI being able to generate solutions for a wide variety of tasks. As the generated solutions and applications become increasingly more complex and multi-faceted, novel needs, objectives, and possibilities have emerged for explainability (XAI). In this work, we elaborate on why XAI has gained importance with the rise of GenAI and its challenges for explainability research. We also unveil novel and emerging desiderata that explanations should fulfill, covering aspects such as verifiability, interactivity, security, and cost. To this end, we focus on surveying existing works. Furthermore, we provide a taxonomy of relevant dimensions that allows us to better characterize existing XAI mechanisms and methods for GenAI. We discuss different avenues to ensure XAI, from training data to prompting. Our paper offers a short but concise technical background of GenAI for non-technical readers, focusing on text and images to better understand novel or adapted XAI techniques for GenAI. However, due to the vast array of works on GenAI, we decided to forego detailed aspects of XAI related to evaluation and usage of explanations. As such, the manuscript interests both technically oriented people and other disciplines, such as social scientists and information systems researchers. Our research roadmap provides more than ten directions for future investigation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google