The ATTUNE model for Artificial Trust Towards Human Operators

要約

この論文では、HRI に対する信頼を定量化する新しい方法を紹介します。
これは、狭く指定されたタスクのコンテキストで人間に対するロボットの信頼を推定するための HRI フレームワークを提案します。
このフレームワークは、モバイル遠隔操作ロボットと対話する人間のパートナーに対する AI エージェントの人工信頼をリアルタイムで推定します。
このフレームワークのアプローチは、人間の状態、行動、意図に関する情報など、心の理論から導かれた原則に基づいています。
このフレームワークは、人間のオペレーターに対する人工的な信頼のための ATTUNE モデルを作成します。
このモデルは、オペレーターの注意状態、ナビゲーションの意図、アクション、パフォーマンスに関する指標を使用して、オペレーターに対する信頼を定量化します。
このモデルは、模擬災害対応シナリオにおける人体実験の記録 (ROSbag) を含む既存のデータセットでテストされます。
ATTUNE のパフォーマンスは、定性的および定量的な分析を通じて評価されます。
分析の結果は、研究の次の段階についての洞察を提供し、提案されたアプローチを改良するのに役立ちます。

要約(オリジナル)

This paper presents a novel method to quantify Trust in HRI. It proposes an HRI framework for estimating the Robot Trust towards the Human in the context of a narrow and specified task. The framework produces a real-time estimation of an AI agent’s Artificial Trust towards a Human partner interacting with a mobile teleoperation robot. The approach for the framework is based on principles drawn from Theory of Mind, including information about the human state, action, and intent. The framework creates the ATTUNE model for Artificial Trust Towards Human Operators. The model uses metrics on the operator’s state of attention, navigational intent, actions, and performance to quantify the Trust towards them. The model is tested on a pre-existing dataset that includes recordings (ROSbags) of a human trial in a simulated disaster response scenario. The performance of ATTUNE is evaluated through a qualitative and quantitative analysis. The results of the analyses provide insight into the next stages of the research and help refine the proposed approach.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google