GRACE: Generating Socially Appropriate Robot Actions Leveraging LLMs and Human Explanations

要約

人間が生活する環境では、ロボットは社会規範を守りつつ、個人の嗜好に合わせながら複雑なタスクを処理する必要がある。例えば、家庭用ロボットは常識的な知識に基づいて、社交の場では掃除機をかけるのを避けるべきだと予測できるが、来客の前と後のどちらで掃除機をかけるべきかはまだわからないかもしれない。このような場合、常識的な知識と、しばしば人間の説明を通じて伝えられる人間の嗜好を統合することは、基本的なことであるが、既存のシステムにとっては課題である。本論文では、社会的に適切なロボットの行動を生成しながら、これに対処する新しいアプローチであるGRACEを紹介する。GRACEは、LLMから得られる常識的な知識を活用し、この知識を生成ネットワークを通して人間の説明と統合する。GRACEの双方向構造により、ロボットは人間の説明を利用することでLLMの予測を洗練・強化することができ、また人間が指定した行動に対してそのような説明を生成することができるようになる。我々の評価では、人間の説明を統合することで、GRACEの性能が向上し、いくつかのベースラインを凌駕し、賢明な説明を提供することが示された。

要約(オリジナル)

When operating in human environments, robots need to handle complex tasks while both adhering to social norms and accommodating individual preferences. For instance, based on common sense knowledge, a household robot can predict that it should avoid vacuuming during a social gathering, but it may still be uncertain whether it should vacuum before or after having guests. In such cases, integrating common-sense knowledge with human preferences, often conveyed through human explanations, is fundamental yet a challenge for existing systems. In this paper, we introduce GRACE, a novel approach addressing this while generating socially appropriate robot actions. GRACE leverages common sense knowledge from LLMs, and it integrates this knowledge with human explanations through a generative network. The bidirectional structure of GRACE enables robots to refine and enhance LLM predictions by utilizing human explanations and makes robots capable of generating such explanations for human-specified actions. Our evaluations show that integrating human explanations boosts GRACE’s performance, where it outperforms several baselines and provides sensible explanations.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL