Computational-level Analysis of Constraint Compliance for General Intelligence

要約

人間の行動は、行動を制約する規範や規範によって条件付けられます。
ルール、「マナー」、法律、道徳的義務などは、人間の行動を支配する制約のクラスの例です。
これらの制約システムは「乱雑」です。個々の制約は定義が不十分であることが多く、特定の状況にどのような制約が関連するかが不明または曖昧である可能性があり、制約は相互に作用し競合し、関連する制約の範囲内でどのように行動するかを決定します。
特に迅速な意思決定が必要な場合には、重大な課題となる可能性があります。
このような混乱にもかかわらず、人間は意思決定に堅牢かつ迅速に制約を組み込みます。
一般的な人工知能エージェントは、予測可能かつ確実に動作するために、複雑な現実世界の制約のあるシステムをナビゲートできなければなりません。
この論文では、一般的なエージェントの制約処理における複雑さの原因を特徴付け、そのような制約遵守のための計算レベルの分析について説明します。
私たちは、計算レベルの分析に基づいて主要なアルゴリズム要件を特定し、制約遵守への一般的なアプローチの初期の探索的実装の概要を示します。

要約(オリジナル)

Human behavior is conditioned by codes and norms that constrain action. Rules, “manners,” laws, and moral imperatives are examples of classes of constraints that govern human behavior. These systems of constraints are ‘messy:’ individual constraints are often poorly defined, what constraints are relevant in a particular situation may be unknown or ambiguous, constraints interact and conflict with one another, and determining how to act within the bounds of the relevant constraints may be a significant challenge, especially when rapid decisions are needed. Despite such messiness, humans incorporate constraints in their decisions robustly and rapidly. General, artificially-intelligent agents must also be able to navigate the messiness of systems of real-world constraints in order to behave predictability and reliably. In this paper, we characterize sources of complexity in constraint processing for general agents and describe a computational-level analysis for such constraint compliance. We identify key algorithmic requirements based on the computational-level analysis and outline an initial, exploratory implementation of a general approach to constraint compliance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google