Unpacking Human-AI interactions: From interaction primitives to a design space

要約

この論文は、ユーザーと AI システム間の対話中のコミュニケーションを指定する対話プリミティブのセットを構築することにより、人間と AI の対話のための準形式的な設計空間を開発することを目的としています。
これらのプリミティブを一連の対話パターンにどのように組み合わせて、人間と AI/ML モデルの間でメッセージを交換し、目的のある対話を実行するための抽象仕様を提供できるかを示します。
この背後にある動機は 2 つあります。1 つは、相互作用の動作に関するシステム間の類似点と相違点を強調する、既存の実践のコンパクトな一般化を提供することです。
第二に、特にモデルとの相互作用の可能性の空間を開くことによって、新しいシステムの作成をサポートします。
ヒューマン・イン・ザ・ループ、説明可能な AI、ハイブリッド インテリジェンスや協調学習アプローチなど、HAI インタラクションの設計と実装に関連するフレームワーク、ガイドライン、分類法に関する短い文献レビューを紹介します。
文献レビューに基づいて、特定のモデル固有のデータ型の提供と要求という観点から情報交換を記述するための語彙を定義します。
この語彙に基づいて、人間とモデルの間の対話のためのメッセージ パッシング モデルが提示され、既存のシステムとアプローチを説明できることを実証します。
最後に、これを、共通の相互作用構造を捉える中間レベルの構造としてデザイン パターンに組み込みます。
このアプローチを人間と AI のインタラクションの設計空間にどのように使用して、設計の新たな可能性を生み出し、実装の問題や懸念事項を追跡できるかについて説明します。

要約(オリジナル)

This paper aims to develop a semi-formal design space for Human-AI interactions, by building a set of interaction primitives which specify the communication between users and AI systems during their interaction. We show how these primitives can be combined into a set of interaction patterns which can provide an abstract specification for exchanging messages between humans and AI/ML models to carry out purposeful interactions. The motivation behind this is twofold: firstly, to provide a compact generalisation of existing practices, that highlights the similarities and differences between systems in terms of their interaction behaviours; and secondly, to support the creation of new systems, in particular by opening the space of possibilities for interactions with models. We present a short literature review on frameworks, guidelines and taxonomies related to the design and implementation of HAI interactions, including human-in-the-loop, explainable AI, as well as hybrid intelligence and collaborative learning approaches. From the literature review, we define a vocabulary for describing information exchanges in terms of providing and requesting particular model-specific data types. Based on this vocabulary, a message passing model for interactions between humans and models is presented, which we demonstrate can account for existing systems and approaches. Finally, we build this into design patterns as mid-level constructs that capture common interactional structures. We discuss how this approach can be used towards a design space for Human-AI interactions that creates new possibilities for designs as well as keeping track of implementation issues and concerns.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google