ConvXAI: Delivering Heterogeneous AI Explanations via Conversations to Support Human-AI Scientific Writing

要約

XAI 手法のコレクションが急増しているにもかかわらず、ユーザーは依然として必要な AI の説明を得るのに苦労しています。
これまでの研究では、動的なソリューションとしてチャットボットが示唆されていますが、実際の人間のニーズに合わせた会話型 XAI エージェントの効果的な設計はまだ十分に検討されていません。
このペーパーでは、AI 支援の科学的執筆タスクのための会話型 XAI に焦点を当てています。
人間の言語理論と形成研究に基づいて、「多面的」、「制御可能性」、「ミックスイニシアチブ」、「コンテキストを意識したドリルダウン」という 4 つの設計理論的根拠を特定します。
私たちはそれらをインタラクティブなプロトタイプ ConvXAI に組み込み、対話を通じて科学論文における異種 AI の説明を容易にします。
21 人のユーザーを対象とした 2 つの調査では、ConvXAI は、人間の認識による理解と文章の改善に関して GUI ベースのベースラインを上回りました。
この論文では、科学的共著のために ConvXAI を操作する際の人間の実際の使用パターンについてさらに説明しています。

要約(オリジナル)

Despite a surge collection of XAI methods, users still struggle to obtain required AI explanations. Previous research suggests chatbots as dynamic solutions, but the effective design of conversational XAI agents for practical human needs remains under-explored. This paper focuses on Conversational XAI for AI-assisted scientific writing tasks. Drawing from human linguistic theories and formative studies, we identify four design rationales: ‘multifaceted’, ‘controllability’, ‘mix-initiative’, ‘context-aware drill-down’. We incorporate them into an interactive prototype, ConvXAI, which facilitates heterogeneous AI explanations for scientific writing through dialogue. In two studies with 21 users, ConvXAI outperforms a GUI-based baseline on improving human-perceived understanding and writing improvement. The paper further discusses the practical human usage patterns in interacting with ConvXAI for scientific co-writing.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google