Distrust in (X)AI — Measurement Artifact or Distinct Construct?

要約

信頼は、説明可能な人工知能 (XAI) の開発における重要な動機です。
ただし、AI の信頼を測定しようとする研究者は、さまざまな信頼の概念化、信頼の前提条件として不確実性を誘発しない可能性のある単純化された実験タスク、AI のコンテキストで検証された信頼アンケートの欠如など、多くの課題に直面しています。
これらの問題を認めながら、私たちは現在過小評価されていると思われるさらなる課題を特定しました。それは、1 つの構造としての信頼と、信頼から独立した 2 番目の構造としての \emph{不信} との間の潜在的な違いです。
この区別については長年の学術的議論があり、信頼の一次元および二次元の概念化についての議論がありましたが、XAI では不信は比較的十分に研究されていないようです。
この意見書では、不信の理論的議論を信頼とは異なる構成要素として強調するだけでなく、同様に信頼と不信の区別を支持する心理測定的証拠を文脈化します。
利用可能な心理測定の証拠が不信の存在に十分であるかどうか、または不信が単なる測定アーティファクトであるかどうかは、まだ調査されていません。
それにもかかわらず、XAI コミュニティは、XAI におけるこれら 2 つの関連する構成要素をより包括的に理解するために、信頼と不信を考慮することに受容的であり続ける必要があります。

要約(オリジナル)

Trust is a key motivation in developing explainable artificial intelligence (XAI). However, researchers attempting to measure trust in AI face numerous challenges, such as different trust conceptualizations, simplified experimental tasks that may not induce uncertainty as a prerequisite for trust, and the lack of validated trust questionnaires in the context of AI. While acknowledging these issues, we have identified a further challenge that currently seems underappreciated – the potential distinction between trust as one construct and \emph{distrust} as a second construct independent of trust. While there has been long-standing academic discourse for this distinction and arguments for both the one-dimensional and two-dimensional conceptualization of trust, distrust seems relatively understudied in XAI. In this position paper, we not only highlight the theoretical arguments for distrust as a distinct construct from trust but also contextualize psychometric evidence that likewise favors a distinction between trust and distrust. It remains to be investigated whether the available psychometric evidence is sufficient for the existence of distrust or whether distrust is merely a measurement artifact. Nevertheless, the XAI community should remain receptive to considering trust and distrust for a more comprehensive understanding of these two relevant constructs in XAI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google