A Transparency Paradox? Investigating the Impact of Explanation Specificity and Autonomous Vehicle Perceptual Inaccuracies on Passengers

要約

自動化システムの透明性は、わかりやすい説明を提供することで実現できます。
透明性は望ましいものですが、その利点を上回る破滅的な結果（不安など）を引き起こす可能性があるでしょうか?
特に自動運転（AD）において、説明の具体性（透明性のレベル）が受信者にどのような影響を与えるかは全く不明である。
この研究では、アルツハイマー病におけるさまざまなレベルの説明特異性を介して媒介される透明性の影響を調べました。
まず、AD での説明生成のためのルールベースのオプションを追加することでデータ駆動型の説明モデルを拡張し、その後、没入型運転シミュレーターで 39 人の参加者を対象とした被験者内ラボ研究を実施して、結果として得られる説明の効果を研究しました。
具体的には、私たちの調査は次のことに焦点を当てました。(1) 車両認識システムが誤った予測を行った場合に、さまざまな種類の説明 (具体的と抽象的) が乗客の安全感、不安、および車両を制御しようとする意欲にどのように影響するか。
(2) 自動運転中の乗客の行動の手がかりと感情の関係。
私たちの調査結果は、車両の知覚システムの誤差が最小限である場合、乗客は具体的な説明でより安全だと感じる一方、知覚誤差を隠すような抽象的な説明では安全感が低下することを示しました。
具体的な説明によって知覚システムのエラーが明らかになった場合（透明性が高い場合）、不安レベルが増加しました。
乗客の視覚パターンと不安レベルの間に有意な関連性は見つかりませんでした。
私たちの研究は、乗客が最適な知覚精度を備えた自動運転車 (AV) から出発する場合、明確で具体的な説明 (高い透明性) を好むことを示唆しています。

要約(オリジナル)

Transparency in automated systems could be afforded through the provision of intelligible explanations. While transparency is desirable, might it lead to catastrophic outcomes (such as anxiety), that could outweigh its benefits? It’s quite unclear how the specificity of explanations (level of transparency) influences recipients, especially in autonomous driving (AD). In this work, we examined the effects of transparency mediated through varying levels of explanation specificity in AD. We first extended a data-driven explainer model by adding a rule-based option for explanation generation in AD, and then conducted a within-subject lab study with 39 participants in an immersive driving simulator to study the effect of the resulting explanations. Specifically, our investigation focused on: (1) how different types of explanations (specific vs. abstract) affect passengers’ perceived safety, anxiety, and willingness to take control of the vehicle when the vehicle perception system makes erroneous predictions; and (2) the relationship between passengers’ behavioural cues and their feelings during the autonomous drives. Our findings showed that passengers felt safer with specific explanations when the vehicle’s perception system had minimal errors, while abstract explanations that hid perception errors led to lower feelings of safety. Anxiety levels increased when specific explanations revealed perception system errors (high transparency). We found no significant link between passengers’ visual patterns and their anxiety levels. Our study suggests that passengers prefer clear and specific explanations (high transparency) when they originate from autonomous vehicles (AVs) with optimal perceptual accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google