要約
人工知能(AI)システムは、領域横断的な意思決定に使用されることが多くなり、提供されるべき情報や説明に関する議論が高まっている。説明可能なAI（XAI）に関する研究の大半は、特徴に基づく説明に焦点を当てており、代替的なスタイルについてはあまり注目されていない。また、NFC（Need for Cognition：認知の必要性）のようなパーソナリティ特性は、NFCの低い人と高い人の間で異なる意思決定結果につながる可能性がある。我々は、ローン申請シナリオにおいて、AI情報（予測、確信、正確さ）の提示と異なる説明スタイル（例ベース、特徴ベース、ルールベース、反実仮想）が、正確さ、AIへの依存、認知負荷にどのように影響するかを調査した。また、XAIインターフェース要素（ローン属性、AI情報、説明）、精度、認知負荷の優先順位付けにおける低NFC者と高NFC者の違いも調べた。その結果、AIの信頼度が高いほど、AIへの依存度が有意に高まる一方、認知負荷は軽減されることがわかった。特徴に基づく説明は、他の条件と比べて精度を向上させなかった。反実仮想的な説明は理解しにくかったが、全体的な精度を高め、AIへの信頼を高め、AIの予測が正しい場合には認知負荷を軽減した。低NFCの人も高NFCの人も、ローン属性の後に説明を優先し、AI情報は最も重要ではなかった。しかし、精度や認知的負荷において低NFC群と高NFC群の間に有意差は見られず、AIによる意思決定支援における性格特性の役割について疑問が呈された。これらの知見は、人間とAIの協働を最適化するために、多様な説明スタイルを取り入れ、複数の性格特性やその他のユーザー特性を探求する、XAIインターフェースにおけるユーザー中心のパーソナライゼーションの必要性を強調している。
要約(オリジナル)
Artificial Intelligence (AI) systems are increasingly used for decision-making across domains, raising debates over the information and explanations they should provide. Most research on Explainable AI (XAI) has focused on feature-based explanations, with less attention on alternative styles. Personality traits like the Need for Cognition (NFC) can also lead to different decision-making outcomes among low and high NFC individuals. We investigated how presenting AI information (prediction, confidence, and accuracy) and different explanation styles (example-based, feature-based, rule-based, and counterfactual) affect accuracy, reliance on AI, and cognitive load in a loan application scenario. We also examined low and high NFC individuals’ differences in prioritizing XAI interface elements (loan attributes, AI information, and explanations), accuracy, and cognitive load. Our findings show that high AI confidence significantly increases reliance on AI while reducing cognitive load. Feature-based explanations did not enhance accuracy compared to other conditions. Although counterfactual explanations were less understandable, they enhanced overall accuracy, increasing reliance on AI and reducing cognitive load when AI predictions were correct. Both low and high NFC individuals prioritized explanations after loan attributes, leaving AI information as the least important. However, we found no significant differences between low and high NFC groups in accuracy or cognitive load, raising questions about the role of personality traits in AI-assisted decision-making. These findings highlight the need for user-centric personalization in XAI interfaces, incorporating diverse explanation styles and exploring multiple personality traits and other user characteristics to optimize human-AI collaboration.
arxiv情報
| 著者 | Federico Maria Cau,Lucio Davide Spano |
| 発行日 | 2025-05-02 11:30:53+00:00 |
| arxivサイト | arxiv_id(pdf) |