Beyond Recommendations: From Backward to Forward AI Support of Pilots’ Decision-Making Process

要約

AI は航空のような一か八かの分野で人間の意思決定を強化すると期待されていますが、不適切な依存やユーザーの意思決定との整合性の低さなどの課題によって導入が妨げられることがよくあります。
最近の研究によると、根本的な問題の核心は、多くの AI システムのレコメンデーション中心の設計にある、つまり、AI システムはエンドツーエンドのレコメンデーションを提供し、残りの意思決定プロセスを無視していることが示唆されています。
代替的なサポート パラダイムはまれであり、実際に存在するいくつかのパラダイムが推奨中心のサポートとどのように比較されるかは不明のままです。
この研究では、航空分野での目的地変更の文脈において、推奨中心のサポートを代替パラダイムである継続的サポートと経験的に比較することを目的としました。
私たちは、現実的な環境で 32 人のプロのパイロットを対象に、混合方法による研究を実施しました。
研究シナリオの質を確保するために、研究の前に 4 人の追加パイロットによるフォーカス グループを実施しました。
私たちは、継続的なサポートがパイロットの前向きな意思決定をサポートし、推奨事項と組み合わせることでパイロットがシステムの限界を超えて考え、より迅速な意思決定を行えるようにすることがわかりました。ただし、前向きなサポートは中断される可能性があります。
参加者の発言はさらに、設計目標が推奨事項の提供から迅速な情報収集のサポートへの移行を示唆しています。
私たちの結果は、エンドツーエンドの推奨事項を超えた、より有用で効果的な AI 意思決定サポートを設計する方法を示しています。

要約(オリジナル)

AI is anticipated to enhance human decision-making in high-stakes domains like aviation, but adoption is often hindered by challenges such as inappropriate reliance and poor alignment with users’ decision-making. Recent research suggests that a core underlying issue is the recommendation-centric design of many AI systems, i.e., they give end-to-end recommendations and ignore the rest of the decision-making process. Alternative support paradigms are rare, and it remains unclear how the few that do exist compare to recommendation-centric support. In this work, we aimed to empirically compare recommendation-centric support to an alternative paradigm, continuous support, in the context of diversions in aviation. We conducted a mixed-methods study with 32 professional pilots in a realistic setting. To ensure the quality of our study scenarios, we conducted a focus group with four additional pilots prior to the study. We found that continuous support can support pilots’ decision-making in a forward direction, allowing them to think more beyond the limits of the system and make faster decisions when combined with recommendations, though the forward support can be disrupted. Participants’ statements further suggest a shift in design goal away from providing recommendations, to supporting quick information gathering. Our results show ways to design more helpful and effective AI decision support that goes beyond end-to-end recommendations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google