Robots Can Feel: LLM-based Framework for Robot Ethical Reasoning

要約

この論文では、ロボットのための新しい倫理的推論フレームワークの開発について説明します。
「Robots Can Feel」は、論理と人間のような感情シミュレーションを組み合わせて、人間と同様に道徳的に複雑な状況で意思決定を行うロボット初のシステムです。
このアプローチの主な特徴は、ロボットの意思決定における感情の役割を割り当てるカスタマイズ可能なパラメータである感情重み係数の管理です。
このシステムは、あらゆる形態や目的のロボットに人間の基準に近い倫理的な行動を持たせることができるツールとして機能することを目指しています。
プラットフォーム以外に、システムはベース モデルの選択とは無関係です。
評価中、システムは 8 つの上位の最新 LLM (Large Language Model) でテストされました。
このリストには、さまざまな企業や国によって開発された商用モデルとオープンソース モデルの両方が含まれています。
研究では、モデルの選択に関係なく、感情の重み係数がロボットの決定に同様に影響を与えることが実証されました。
ANOVA 分析によると、さまざまな感情重み係数の使用は、食事違反の要求 F(4, 35) = 11.2、p = 0.0001 や動物への思いやりの状況 F など、さまざまな状況での最終決定に影響を与えました。
(4, 35) = 8.5441、p = 0.0001。
デモ コード リポジトリは、https://github.com/TemaLykov/robots_can_feel で提供されています。

要約(オリジナル)

This paper presents the development of a novel ethical reasoning framework for robots. ‘Robots Can Feel’ is the first system for robots that utilizes a combination of logic and human-like emotion simulation to make decisions in morally complex situations akin to humans. The key feature of the approach is the management of the Emotion Weight Coefficient – a customizable parameter to assign the role of emotions in robot decision-making. The system aims to serve as a tool that can equip robots of any form and purpose with ethical behavior close to human standards. Besides the platform, the system is independent of the choice of the base model. During the evaluation, the system was tested on 8 top up-to-date LLMs (Large Language Models). This list included both commercial and open-source models developed by various companies and countries. The research demonstrated that regardless of the model choice, the Emotions Weight Coefficient influences the robot’s decision similarly. According to ANOVA analysis, the use of different Emotion Weight Coefficients influenced the final decision in a range of situations, such as in a request for a dietary violation F(4, 35) = 11.2, p = 0.0001 and in an animal compassion situation F(4, 35) = 8.5441, p = 0.0001. A demonstration code repository is provided at: https://github.com/TemaLykov/robots_can_feel

arxiv情報

提供元, 利用サービス

arxiv.jp, Google