VizTrust: A Visual Analytics Tool for Capturing User Trust Dynamics in Human-AI Communication

要約

Trustは、ユーザーが人工知能（AI）システムに関与および協力する意欲を形成する上で基本的な役割を果たします。
しかし、ユーザーの信頼を測定することは、その複雑で動的な性質のために依然として挑戦的です。
従来の調査方法は長い会話の信頼レベルを提供しますが、進行中の相互作用中に動的な進化を捉えることができません。
ここでは、マルチエージェントコラボレーションシステムを活用して人間のエージェントコミュニケーションにおけるユーザーの信頼ダイナミクスをキャプチャおよび分析するリアルタイムの視覚分析ツールを導入することにより、この課題に対処するVizTrustを提示します。
確立されたヒューマンコンピューターの信頼のスケールコンピテンス、整合性、慈悲、および予測可能性に基づいて構築されたVizTrustは、利害関係者がそれが起こるときに信頼の形成を観察し、信頼開発のパターンを特定し、信頼に影響を与える特定の相互作用要素を特定することを可能にします。
当社のツールは、ダッシュボードを介して人間エージェントの信頼の形成とリアルタイムでの進化に関する実用的な洞察を提供し、ユーザーの信頼信号に効果的に対応する適応的な会話エージェントの設計をサポートします。

要約(オリジナル)

Trust plays a fundamental role in shaping the willingness of users to engage and collaborate with artificial intelligence (AI) systems. Yet, measuring user trust remains challenging due to its complex and dynamic nature. While traditional survey methods provide trust levels for long conversations, they fail to capture its dynamic evolution during ongoing interactions. Here, we present VizTrust, which addresses this challenge by introducing a real-time visual analytics tool that leverages a multi-agent collaboration system to capture and analyze user trust dynamics in human-agent communication. Built on established human-computer trust scales-competence, integrity, benevolence, and predictability-, VizTrust enables stakeholders to observe trust formation as it happens, identify patterns in trust development, and pinpoint specific interaction elements that influence trust. Our tool offers actionable insights into human-agent trust formation and evolution in real time through a dashboard, supporting the design of adaptive conversational agents that responds effectively to user trust signals.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google