Competent but Rigid: Identifying the Gap in Empowering AI to Participate Equally in Group Decision-Making

要約

人間と AI の共同意思決定に関する既存の研究は、主に AI と個々の意思決定者の間の相互作用に焦点を当てています。
グループの意思決定において AI がどのように機能するかについての理解は限られています。
この論文では、2 人の参加者と AI が 3 つの英語のエッセイをランク付けする委員会を形成するオズの魔法使いの研究を紹介します。
私たちの研究の目新しさの 1 つは、グループの意思決定において AI に人間と同等の力を与えることによって、投機的な設計を採用することです。私たちは、AI が他の人間のメンバーと平等に議論し、投票できるようにします。
AIの声は価値があると考えられていますが、議論のダイナミクスを完全に追跡して進歩的な貢献をすることができないため、AIは依然としてグループ内で二次的な役割を果たしていることがわかりました.
さらに、「平等な AI」に関する参加者のさまざまな意見は、人間と AI の関係の将来の可能性に光を当てました。

要約(オリジナル)

Existing research on human-AI collaborative decision-making focuses mainly on the interaction between AI and individual decision-makers. There is a limited understanding of how AI may perform in group decision-making. This paper presents a wizard-of-oz study in which two participants and an AI form a committee to rank three English essays. One novelty of our study is that we adopt a speculative design by endowing AI equal power to humans in group decision-making.We enable the AI to discuss and vote equally with other human members. We find that although the voice of AI is considered valuable, AI still plays a secondary role in the group because it cannot fully follow the dynamics of the discussion and make progressive contributions. Moreover, the divergent opinions of our participants regarding an ‘equal AI’ shed light on the possible future of human-AI relations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google