Tell Me What You Want (What You Really, Really Want): Addressing the Expectation Gap for Goal Conveyance from Humans to Robots

要約

人間の目標を自律システム (AS) に伝えることは、システムの設計時と運用時の両方で行われます。
設計ステップの伝達は通常、ロボット工学および AI エンジニアによって仲介され、エンドユーザーの要件と運用の概念を適切に把握する必要があります。一方、操作ステップの伝達は、AI の設計、インターフェイス、および動作によって仲介されます。
ただし、エンドユーザーとロボット技術者の期待と専門知識の不一致により、これらの期間の両方でコミュニケーションが困難になる可能性があり、解決するにはさらに多くの設計サイクルが必要になります。
私たちは、システム設計要件を伝達する際の障壁のいくつかを調査し、特に自律システムの開発に関連する応用認知タスク分析 (ACTA) 手法の拡張機能 (ロボット タスク分析 (RTA) と呼んでいます) を開発します。
さらに、主に実験心理学と社会科学からの一連の研究を利用して、要求コミュニケーション間の摩擦、つまり暗黙の人間の期待間の摩擦の未解明な領域についてのトップダウン ビューを紹介します。
このような期待をタスク固有の期待および AS のシステム設計プロセスと組み合わせて使用​​して、設計チームのコミュニケーションを改善し、ユーザーの拒否に対する障壁を軽減し、設計サイクルの数を削減する方法を示します。

要約(オリジナル)

Conveying human goals to autonomous systems (AS) occurs both when the system is being designed and when it is being operated. The design-step conveyance is typically mediated by robotics and AI engineers, who must appropriately capture end-user requirements and concepts of operations, while the operation-step conveyance is mediated by the design, interfaces, and behavior of the AI. However, communication can be difficult during both these periods because of mismatches in the expectations and expertise of the end-user and the roboticist, necessitating more design cycles to resolve. We examine some of the barriers in communicating system design requirements, and develop an augmentation for applied cognitive task analysis (ACTA) methods, that we call robot task analysis (RTA), pertaining specifically to the development of autonomous systems. Further, we introduce a top-down view of an underexplored area of friction between requirements communication — implied human expectations — utilizing a collection of work primarily from experimental psychology and social sciences. We show how such expectations can be used in conjunction with task-specific expectations and the system design process for AS to improve design team communication, alleviate barriers to user rejection, and reduce the number of design cycles.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google