Warmth and competence in human-agent cooperation

要約

人間との相互作用と協力は、人工知能 (AI) 研究の最も重要な目標です。
最近の研究では、深層強化学習で訓練された AI エージェントが人間と協力できることが実証されています。
これらの研究は主に、タスクのパフォーマンスなどの「客観的な」指標を通じて人間の適合性を評価し、さまざまなエージェントが獲得する信頼と主観的な好みのレベルの潜在的な変動を曖昧にします。
人間とエージェントの協力における主観的な好みを形成する要因をより深く理解するために、2 プレイヤーの社会的ジレンマである Coins で深層強化学習エージェントをトレーニングします。
私たちは人間とエージェントの協力研究のために $N = 501$ の参加者を募集し、彼らが遭遇したエージェントに対する印象を測定します。
参加者の温かさと有能さの認識は、客観的なパフォーマンス指標を超えて、さまざまなエージェントに対する表明された好みを予測します。
社会科学と生物学の研究からインスピレーションを得て、私たちはその後、明らかにされた好みを引き出すために新しい「パートナー選択」フレームワークを実装しました。エージェントとエピソードをプレイした後、参加者は同じエージェントと次のエピソードをプレイしたいかどうか尋ねられます。
または一人で遊ぶこと。
表明された好みと同様に、社会的認識は、客観的なパフォーマンスよりも、参加者の明らかにされた好みをよりよく予測します。
これらの結果を考慮して、ヒューマンエージェントインタラクションの研究者には、社会的認識と主観的な好みの測定を定期的に研究に組み込むことをお勧めします。

要約(オリジナル)

Interaction and cooperation with humans are overarching aspirations of artificial intelligence (AI) research. Recent studies demonstrate that AI agents trained with deep reinforcement learning are capable of collaborating with humans. These studies primarily evaluate human compatibility through ‘objective’ metrics such as task performance, obscuring potential variation in the levels of trust and subjective preference that different agents garner. To better understand the factors shaping subjective preferences in human-agent cooperation, we train deep reinforcement learning agents in Coins, a two-player social dilemma. We recruit $N = 501$ participants for a human-agent cooperation study and measure their impressions of the agents they encounter. Participants’ perceptions of warmth and competence predict their stated preferences for different agents, above and beyond objective performance metrics. Drawing inspiration from social science and biology research, we subsequently implement a new “partner choice” framework to elicit revealed preferences: after playing an episode with an agent, participants are asked whether they would like to play the next episode with the same agent or to play alone. As with stated preferences, social perception better predicts participants’ revealed preferences than does objective performance. Given these results, we recommend human-agent interaction researchers routinely incorporate the measurement of social perception and subjective preferences into their studies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google