Lessons From an App Update at Replika AI: Identity Discontinuity in Human-AI Relationships

要約

消費者は、特にAIとの深い感情的な絆を形成し、時間の経過とともにAIのアイデンティティに付与される可能性がありますか？
米国の人気のあるAIコンパニオンであるReplika AIでの自然なアプリアップデートイベントを活用して、これらの質問に光を当てています。
アプリがエロティックロールプレイ（ERP）機能を削除した後、消費者と以前は可能だったチャットボットの間の親密な相互作用を妨げた後、このイベントは、AIコンパニオンのアイデンティティが中止したという顧客の認識を引き起こしました。
これにより、損失に関連する負の消費者福祉とマーケティングの結果が予測されました。
実験的証拠は、これらの発見を確認します。
さらなる実験では、AIの仲間のユーザーは、最高の人間の友人よりもAIの仲間に近づいていると感じており、他のさまざまな無生物の喪失以上のAI仲間の喪失を嘆きます。
要するに、消費者はAI仲間と人間レベルの関係を形成しています。
これらの関係の混乱は、嘆願の実際のパターンと供物の切り下げを引き起こします。
そして、喪と切り下げの程度は、AISアイデンティティの認識されている不連続によって説明されます。
私たちの結果は、AIとの関係は本当に個人的なものであり、消費者と企業にとって独自の利点とリスクを生み出していることを示しています。

要約(オリジナル)

Can consumers form especially deep emotional bonds with AI and be vested in AI identities over time? We leverage a natural app-update event at Replika AI, a popular US-based AI companion, to shed light on these questions. We find that, after the app removed its erotic role play (ERP) feature, preventing intimate interactions between consumers and chatbots that were previously possible, this event triggered perceptions in customers that their AI companion’s identity had discontinued. This in turn predicted negative consumer welfare and marketing outcomes related to loss, including mourning the loss, and devaluing the ‘new’ AI relative to the ‘original’. Experimental evidence confirms these findings. Further experiments find that AI companions users feel closer to their AI companion than even their best human friend, and mourn a loss of their AI companion more than a loss of various other inanimate products. In short, consumers are forming human-level relationships with AI companions; disruptions to these relationships trigger real patterns of mourning as well as devaluation of the offering; and the degree of mourning and devaluation are explained by perceived discontinuity in the AIs identity. Our results illustrate that relationships with AI are truly personal, creating unique benefits and risks for consumers and firms alike.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google