Computational-level Analysis of Constraint Compliance for General Intelligence

要約

タイトル：一般的な知能に対する拘束遵守の計算レベル解析

要約：

– 人間の行動は、行動を拘束するコードや規範によって規制されています。
– ルール、マナー、法律、道徳的勧告などは、人間の行動を統制する制約のクラスの例です。
– これらの制約システムは「混沌」です。個々の制約がしばしば定義が不十分であり、特定の状況でどの制約が関連しているかは不明または曖昧で、制約は相互作用し、対立することがあります。
– 人間は制約を堅牢かつ迅速に決定に取り入れますが、迅速な決定が必要な場合、関連する制約の範囲内でどのように行動すべきかを決定することは重要な課題になります。
– 人工知能エージェントも、現実世界の制約システムの混沌を航行できる必要があります。
– この論文では、一般エージェントの制約処理の複雑さのソースを特徴化し、制約遵守に対する計算レベルの分析を説明します。
– 計算レベル解析に基づいて、主要なアルゴリズム要件を特定し、制約遵守の一般的なアプローチの初期の探索的実装の概要を説明します。

要約(オリジナル)

Human behavior is conditioned by codes and norms that constrain action. Rules, “manners,” laws, and moral imperatives are examples of classes of constraints that govern human behavior. These systems of constraints are “messy:” individual constraints are often poorly defined, what constraints are relevant in a particular situation may be unknown or ambiguous, constraints interact and conflict with one another, and determining how to act within the bounds of the relevant constraints may be a significant challenge, especially when rapid decisions are needed. Despite such messiness, humans incorporate constraints in their decisions robustly and rapidly. General, artificially-intelligent agents must also be able to navigate the messiness of systems of real-world constraints in order to behave predictability and reliably. In this paper, we characterize sources of complexity in constraint processing for general agents and describe a computational-level analysis for such \textit{constraint compliance}. We identify key algorithmic requirements based on the computational-level analysis and outline an initial, exploratory implementation of a general approach to constraint compliance.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI