Human-centered trust framework: An HCI perspective

要約

タイトル：ヒューマンセンターの信頼フレームワーク：HCIの観点

要約：
– AIにおける現在のユーザー信頼の問題を考慮して、我々は信頼を技術の導入の促進者として使用する新しいHCIアプローチを作成することを目的としている。
– HCTFrameというフレームワークを提案し、非専門家がAIデザインにおいてユーザー信頼の可能性を最大化するためにガイドする。
– 3つの文献レビューから得られた結果に基づき、ユーザー信頼に関するコンピュータサイエンスとAIの議論の誤解を解くことができる。
– 3つのケーススタディを実施し、心理測定スケールの効果を評価して、潜在的なユーザーの信頼の崩壊や懸念をマッピングするために使用できることを示した。
– この研究は、技術中心の脆弱な相互作用を設計する傾向に対する闘いに主に貢献し、最終的に信頼の実際的および知覚される侵害を引き起こす可能性がある。
– 提案されたフレームワークは、システムデザイナーがユーザーの信頼とAIシステムデザインの社会倫理的および組織的ニーズおよび特性をマップおよび定義する方法を指導するために使用できる。
– また、提案された解決策に対するユーザーの信頼要件を満たすプロトタイプを開発する方法をAIシステムデザイナーに指導することもできる。
– 本文は、提案されたソリューションに対するユーザーの信頼意図と行動を測定するために使用できる、いくつかのユーザー調査ツールを提供することで終了します。

要約(オリジナル)

The rationale of this work is based on the current user trust discourse of Artificial Intelligence (AI). We aim to produce novel HCI approaches that use trust as a facilitator for the uptake (or appropriation) of current technologies. We propose a framework (HCTFrame) to guide non-experts to unlock the full potential of user trust in AI design. Results derived from a data triangulation of findings from three literature reviews demystify some misconceptions of user trust in computer science and AI discourse, and three case studies are conducted to assess the effectiveness of a psychometric scale in mapping potential users’ trust breakdowns and concerns. This work primarily contributes to the fight against the tendency to design technical-centered vulnerable interactions, which can eventually lead to additional real and perceived breaches of trust. The proposed framework can be used to guide system designers on how to map and define user trust and the socioethical and organisational needs and characteristics of AI system design. It can also guide AI system designers on how to develop a prototype and operationalise a solution that meets user trust requirements. The article ends by providing some user research tools that can be employed to measure users’ trust intentions and behaviours towards a proposed solution.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI