Toward Constraint Compliant Goal Formulation and Planning

要約

規範、ルール、好みを遵守することの 1 つは、目標の策定と計画の処理に制約 (倫理の知識など) を組み込むことです。
私たちは、さまざまな倫理的枠組みにおける知識のコード化がエージェントの目標策定と計画処理にどのような影響を与えるかを単純な領域で調査し、関連する制約の集合に「ハード」と「ソフト」の組み合わせが含まれている場合にエージェントが満足し満足する能力を実証します。
さまざまな種類の制約。
エージェントが倫理的制約にどのように従おうとするかは倫理的枠組みに依存しており、倫理的規範に従うための義務論的枠組みと功利主義的枠組みの間のトレードオフを調査します。
代表的なシナリオは、同じ基準の異なる枠組みで同じタスクを実行することがどのように異なる動作につながるかを強調しています。
私たちの調査は、目標の策定と計画中に倫理的対立を解決する際にメタ認知的判断が重要な役割を果たすことを示唆しています。

要約(オリジナル)

One part of complying with norms, rules, and preferences is incorporating constraints (such as knowledge of ethics) into one’s goal formulation and planning processing. We explore in a simple domain how the encoding of knowledge in different ethical frameworks influences an agent’s goal formulation and planning processing and demonstrate ability of an agent to satisfy and satisfice when its collection of relevant constraints includes a mix of ‘hard’ and ‘soft’ constraints of various types. How the agent attempts to comply with ethical constraints depends on the ethical framing and we investigate tradeoffs between deontological framing and utilitarian framing for complying with an ethical norm. Representative scenarios highlight how performing the same task with different framings of the same norm leads to different behaviors. Our explorations suggest an important role for metacognitive judgments in resolving ethical conflicts during goal formulation and planning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google