Blending Participatory Design and Artificial Awareness for Trustworthy Autonomous Vehicles

要約

自動運転車（AVS）やドローンなどの現在のロボットエージェントは、適切な状況認識（SA）、リスク認識、調整、意思決定を備えた不確実な現実世界環境に対処する必要があります。
Symawareプロジェクトは、マルチエージェントシステムで人為的な認識のためのアーキテクチャを設計し、自動運転車とドローンの安全なコラボレーションを可能にすることにより、この問題に対処するよう努めています。
ただし、これらのエージェントは、人間のユーザー（ドライバー、歩行者、ドローンオペレーター）とやり取りする必要があります。これは、相互作用シナリオで人間をモデル化する方法と、エージェントと人間の間の信頼と透明性を促進する方法を理解する必要があります。
この作業では、SAアーキテクチャに統合するために、人間のドライバーのデータ駆動型モデルを作成し、信頼できる人員相互作用の原則に基づいて研究を根拠とすることを目指しています。
モデルの作成に必要なデータを収集するために、AVの透明性とユーザーの動作との相互作用を調査する人間とAVの相互作用に関する大規模なユーザー中心の研究を実施しました。
この論文の貢献は2つあります。1つ目は、人間とその発見とその発見を詳細に示し、第二に、研究のデータから計算された人間のドライバーのマルコフ連鎖モデルを提示します。
私たちの結果は、AVの透明性、シナリオの環境、およびユーザーの人口統計に応じて、モデルの遷移に大きな違いを得ることができることを示しています。

要約(オリジナル)

Current robotic agents, such as autonomous vehicles (AVs) and drones, need to deal with uncertain real-world environments with appropriate situational awareness (SA), risk awareness, coordination, and decision-making. The SymAware project strives to address this issue by designing an architecture for artificial awareness in multi-agent systems, enabling safe collaboration of autonomous vehicles and drones. However, these agents will also need to interact with human users (drivers, pedestrians, drone operators), which in turn requires an understanding of how to model the human in the interaction scenario, and how to foster trust and transparency between the agent and the human. In this work, we aim to create a data-driven model of a human driver to be integrated into our SA architecture, grounding our research in the principles of trustworthy human-agent interaction. To collect the data necessary for creating the model, we conducted a large-scale user-centered study on human-AV interaction, in which we investigate the interaction between the AV’s transparency and the users’ behavior. The contributions of this paper are twofold: First, we illustrate in detail our human-AV study and its findings, and second we present the resulting Markov chain models of the human driver computed from the study’s data. Our results show that depending on the AV’s transparency, the scenario’s environment, and the users’ demographics, we can obtain significant differences in the model’s transitions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google