Not Just Novelty: A Longitudinal Study on Utility and Customization of an AI Workflow

要約

生成 AI は、人々の日常業務を支援する斬新で印象的な能力をもたらします。
AI の出力と人間の対話を連鎖させることで、実際の複雑な問題を解決する AI ワークフローが数多くあります。
AI の魅力は否定できませんが、目新しさが消えた後、生成 AI ワークフローがどれほど役立つかは不明です。
さらに、生成 AI で構築されたワークフローは、ユーザーの個別のニーズに合わせて簡単にカスタマイズできる可能性がありますが、ユーザーはこれを活用していますか?
私たちは、科学コミュニケーションのための生成 AI ツールの習熟とカスタマイズを理解するために、12 人のユーザーを対象に 3 週間の縦断調査を実施しました。
私たちの調査では、ユーザーがワークフローの新しい機能を探索し、どの側面が有用であると感じているかを発見する段階である、慣れ親しむ段階が存在することが明らかになりました。
このフェーズの後、ユーザーはワークフローを理解し、出力を予測できるようになりました。
驚くべきことに、慣れた後は、システムの知覚された有用性が以前よりも高く評価され、AI の知覚された有用性が単なる目新しさの効果ではないことが示されました。
利点の増加は主に、エンドユーザーがプロンプトをカスタマイズできるため、システムを自分のニーズに合わせて調整できる可能性があることによってもたらされます。
これは、生成 AI システムによって流用を考慮した設計が可能になる未来を示しています。

要約(オリジナル)

Generative AI brings novel and impressive abilities to help people in everyday tasks. There are many AI workflows that solve real and complex problems by chaining AI outputs together with human interaction. Although there is an undeniable lure of AI, it is uncertain how useful generative AI workflows are after the novelty wears off. Additionally, workflows built with generative AI have the potential to be easily customized to fit users’ individual needs, but do users take advantage of this? We conducted a three-week longitudinal study with 12 users to understand the familiarization and customization of generative AI tools for science communication. Our study revealed that there exists a familiarization phase, during which users were exploring the novel capabilities of the workflow and discovering which aspects they found useful. After this phase, users understood the workflow and were able to anticipate the outputs. Surprisingly, after familiarization the perceived utility of the system was rated higher than before, indicating that the perceived utility of AI is not just a novelty effect. The increase in benefits mainly comes from end-users’ ability to customize prompts, and thus potentially appropriate the system to their own needs. This points to a future where generative AI systems can allow us to design for appropriation.

arxiv情報

著者 Tao Long,Katy Ilonka Gero,Lydia B. Chilton
発行日 2024-05-31 16:00:05+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CL, cs.CY, cs.HC パーマリンク