要約
大規模言語モデル (LLM) のプロンプトベースのインターフェイスにより、AI を活用したアプリケーションのプロトタイピングと構築がこれまでより簡単になりました。
ただし、AI アプリケーションから発生する可能性のある潜在的な危害を特定することは、特にプロンプトベースのプロトタイピング中に依然として課題です。
これに対処するために、プロトタイピング中の AI アプリケーションからの潜在的な危害を特定するのに役立つ、斬新な現場対話型ツールである Farsight を紹介します。
ユーザーのプロンプトに基づいて、Farsight は関連する AI インシデントに関するニュース記事を強調表示し、ユーザーが LLM によって生成されたユースケース、利害関係者、被害を調査および編集できるようにします。
10 人の AI プロトタイプ製作者との共同設計調査から得た設計の洞察と、42 人の AI プロトタイプ製作者によるユーザー調査から得た知見を報告します。
Farsight を使用した後、ユーザー調査の AI プロトタイプ作成者は、プロンプトに関連する潜在的な危害を独立して特定できるようになり、当社のツールが既存のリソースよりも便利で使いやすいことがわかりました。
彼らの定性的なフィードバックは、Farsight がエンドユーザーに焦点を当て、差し迫った害を超えて考えることを奨励していることも強調しています。
私たちはこれらの調査結果について議論し、AI の害に有意義に取り組む AI プロトタイピング エクスペリエンスの設計への影響について考察します。
Farsight は、https://PAIR-code.github.io/farsight から一般にアクセスできます。
要約(オリジナル)
Prompt-based interfaces for Large Language Models (LLMs) have made prototyping and building AI-powered applications easier than ever before. However, identifying potential harms that may arise from AI applications remains a challenge, particularly during prompt-based prototyping. To address this, we present Farsight, a novel in situ interactive tool that helps people identify potential harms from the AI applications they are prototyping. Based on a user’s prompt, Farsight highlights news articles about relevant AI incidents and allows users to explore and edit LLM-generated use cases, stakeholders, and harms. We report design insights from a co-design study with 10 AI prototypers and findings from a user study with 42 AI prototypers. After using Farsight, AI prototypers in our user study are better able to independently identify potential harms associated with a prompt and find our tool more useful and usable than existing resources. Their qualitative feedback also highlights that Farsight encourages them to focus on end-users and think beyond immediate harms. We discuss these findings and reflect on their implications for designing AI prototyping experiences that meaningfully engage with AI harms. Farsight is publicly accessible at: https://PAIR-code.github.io/farsight.
arxiv情報
| 著者 | Zijie J. Wang,Chinmay Kulkarni,Lauren Wilcox,Michael Terry,Michael Madaio |
| 発行日 | 2024-02-23 14:38:05+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google