The System Model and the User Model: Exploring AI Dashboard Design

要約

【タイトル】システムモデルとユーザーモデル：AIダッシュボードデザインの探究

【要約】この論文は、インターフェースデザインと人工知能に関するものである。最近、大規模言語モデルに基づくチャットボットが注目され、深刻な問題が報告されている。我々は、問題の一部はテキストだけではなく、複雑な装置と同様に洗練されたAIシステムにダッシュボードが必要であると主張する。ニューラルネットワークに基づくAIシステムが、周囲の世界の側面の解釈可能なモデルを含むという仮説に基づいて、どのようなデータが表示されるべきかを議論する。多くのシステムにとって、最も重要なモデルは、ユーザーモデルとシステムモデルであると推測する。対話ベースのAIシステムのインターフェースには、システムモデルとユーザーモデルの状態に基づく並列表示が必要であると主張する。これらの2つのモデルを識別、解釈、表示する方法を見つけることは、AIのインターフェース研究の中心的な部分であるべきである。

【要点】

– テキストだけではなくAIシステムにダッシュボードが必要
– AIシステムは周囲の世界の側面の解釈可能なモデルを含む
– ユーザーモデルとシステムモデルが重要だと推測
– 対話ベースのAIシステムのインターフェースには、システムモデルとユーザーモデルの状態に基づく並列表示が必要
– 2つのモデルを識別、解釈、表示する方法を見つけることは、AIのインターフェース研究の中心的な部分であるべき。

要約(オリジナル)

This is a speculative essay on interface design and artificial intelligence. Recently there has been a surge of attention to chatbots based on large language models, including widely reported unsavory interactions. We contend that part of the problem is that text is not all you need: sophisticated AI systems should have dashboards, just like all other complicated devices. Assuming the hypothesis that AI systems based on neural networks will contain interpretable models of aspects of the world around them, we discuss what data such dashboards might display. We conjecture that, for many systems, the two most important models will be of the user and of the system itself. We call these the System Model and User Model. We argue that, for usability and safety, interfaces to dialogue-based AI systems should have a parallel display based on the state of the System Model and the User Model. Finding ways to identify, interpret, and display these two models should be a core part of interface research for AI.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI