Computational Dualism and Objective Superintelligence

要約

インテリジェント・ソフトウェアの概念には欠陥がある。ソフトウェアの振る舞いは、それを「解釈」するハードウェアによって決定される。このことは、理論化されたソフトウェアの超知能の振る舞いに関する主張を台無しにする。ここでは、この問題を「計算論的二元論」と呼び、精神的物質と物理的物質の代わりに、ソフトウェアとハードウェアが存在する。パフォーマンスに関して客観的な主張をするためには、計算論的二元論を避けなければならないと主張する。我々は、環境のあらゆる側面が不可逆的な状態間の関係であるという、パン・コンピュテーショナルな代替案を提案する。我々は、システムを振る舞い（入力と出力）として形式化し、認知を具現化された、埋め込まれた、拡張された、能動的なものとして形式化する。その結果、認知は、インタープリターを通して環境と相互作用する実体のない政策としてではなく、環境の一部として形式化される。これにより、知性に関する客観的な主張が可能になる。知性とは、「一般化」し、原因を特定し、適応する能力であると我々は主張する。そして、知的行動の客観的上限を設定する。このことは、AGIが理論化されているよりも安全ではあるが、より限定的なものになることを示唆している。

要約(オリジナル)

The concept of intelligent software is flawed. The behaviour of software is determined by the hardware that ‘interprets’ it. This undermines claims regarding the behaviour of theorised, software superintelligence. Here we characterise this problem as ‘computational dualism’, where instead of mental and physical substance, we have software and hardware. We argue that to make objective claims regarding performance we must avoid computational dualism. We propose a pancomputational alternative wherein every aspect of the environment is a relation between irreducible states. We formalise systems as behaviour (inputs and outputs), and cognition as embodied, embedded, extended and enactive. The result is cognition formalised as a part of the environment, rather than as a disembodied policy interacting with the environment through an interpreter. This allows us to make objective claims regarding intelligence, which we argue is the ability to ‘generalise’, identify causes and adapt. We then establish objective upper bounds for intelligent behaviour. This suggests AGI will be safer, but more limited, than theorised.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL