Explanation User Interfaces: A Systematic Literature Review

要約

人工知能（AI）は、今世紀の主要な技術的進歩の1つであり、多くのドメインでAIを搭載したアプリケーションとツールを通じてユーザーにとって信じられないほどの可能性を抱えています。
多くの場合、ブラックボックス（つまり、意思決定プロセスは理解できません）であるため、開発者は通常、説明可能な人工知能（XAI）技術に頼り、AIモデルの動作を解釈して透明性、公正、信頼性、信頼できるシステムを生成します。
ただし、ユーザーに説明を提示することは些細なことではなく、多くの場合、システムの設計プロセスの二次的な側面として残され、エンドユーザーに役立たないAIシステムにつながります。
このペーパーでは、説明ユーザーインターフェイス（XUIS）に関する体系的な文献レビューを提示して、学術文献で採用されているソリューションと設計ガイドラインをより深く理解して、ユーザーに効果的に説明を提示します。
この調査の貢献と現実世界の影響を改善するために、XUIの設計と評価において開業医と学者を導くために、説明可能なユーザーインターフェイス（HERMES）の人間中心の開発のためのフレームワークも提示します。

要約(オリジナル)

Artificial Intelligence (AI) is one of the major technological advancements of this century, bearing incredible potential for users through AI-powered applications and tools in numerous domains. Being often black-box (i.e., its decision-making process is unintelligible), developers typically resort to eXplainable Artificial Intelligence (XAI) techniques to interpret the behaviour of AI models to produce systems that are transparent, fair, reliable, and trustworthy. However, presenting explanations to the user is not trivial and is often left as a secondary aspect of the system’s design process, leading to AI systems that are not useful to end-users. This paper presents a Systematic Literature Review on Explanation User Interfaces (XUIs) to gain a deeper understanding of the solutions and design guidelines employed in the academic literature to effectively present explanations to users. To improve the contribution and real-world impact of this survey, we also present a framework for Human-cEnteRed developMent of Explainable user interfaceS (HERMES) to guide practitioners and academics in the design and evaluation of XUIs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google