Appropriateness of LLM-equipped Robotic Well-being Coach Language in the Workplace: A Qualitative Evaluation

要約

ロボットコーチは、職場や家庭などのさまざまな状況で精神的健康を促進するために最近研究されています。
大規模言語モデル (LLM) の普及に伴い、HRI の研究者は、そのように生成された言語を現実世界のロボットによる精神的健康コーチングに使用する際に、言語の適切性を考慮するよう求められています。
そこで本論文は、職場におけるロボットメンタルウェルビーイングコーチの言語適切性を調査した最初の研究を紹介する。
この目的を達成するために、私たちは 17 人の従業員を対象に、LLM ベースの機能を備えたロボットメンタルウェルビーイングコーチと 4 週間にわたって対話する実証研究を実施しました。
研究後、私たちは彼らに個別にインタビューし、そのうちの11人を対象に1時間半のフォーカスグループを実施しました。
フォーカス グループは、i) アイスブレイク活動、ii) さまざまなシナリオにおけるロボット コーチ言語の適切性の評価、および iii) 精神的健康のために適切なロボット コーチ言語を設計するためにすべきこととすべきではないことのリストで構成されています。
私たちの定性的評価から、言語に適したロボットコーチは、(1) 表面的な質問ではなく、コーチを受ける人の感情を探る深い質問をすること、(2) 状況について感情的かつ共感的に理解を表現し示すこと、そして (3) すべきであることがわかりました。
）偏見や固定観念を避けるために、フォローアップの質問で明確にすることなく、いかなる仮定も立てないでください。
これらの結果は、現実世界の状況において精神的健康を促進するために、言語に適したロボットコーチの設計に情報を提供することができます。

要約(オリジナル)

Robotic coaches have been recently investigated to promote mental well-being in various contexts such as workplaces and homes. With the widespread use of Large Language Models (LLMs), HRI researchers are called to consider language appropriateness when using such generated language for robotic mental well-being coaches in the real world. Therefore, this paper presents the first work that investigated the language appropriateness of robot mental well-being coach in the workplace. To this end, we conducted an empirical study that involved 17 employees who interacted over 4 weeks with a robotic mental well-being coach equipped with LLM-based capabilities. After the study, we individually interviewed them and we conducted a focus group of 1.5 hours with 11 of them. The focus group consisted of: i) an ice-breaking activity, ii) evaluation of robotic coach language appropriateness in various scenarios, and iii) listing shoulds and shouldn’ts for designing appropriate robotic coach language for mental well-being. From our qualitative evaluation, we found that a language-appropriate robotic coach should (1) ask deep questions which explore feelings of the coachees, rather than superficial questions, (2) express and show emotional and empathic understanding of the context, and (3) not make any assumptions without clarifying with follow-up questions to avoid bias and stereotyping. These results can inform the design of language-appropriate robotic coach to promote mental well-being in real-world contexts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google