Scenarios and branch points to future machine intelligence

要約

シナリオと、将来の機械知能に関する 4 つの主な可能性のある結果への分岐点について説明します。
1) 最初で唯一の超知能が決定的な戦略的優位性を獲得する単一シナリオ 2) 単一シナリオが技術的に否定されないが、人間社会の政治的またはその他の要因、または知的エージェント間のマルチエージェント相互作用が防止する多極シナリオ
単一のエージェントが決定的な戦略的優位性を獲得することから、3) シングルトンのシナリオが否定され、多くの自律的なインテリジェント エージェントが相互に依存し、実質的に止められないように動作するエコシステムのシナリオ、および 4) 認知能力が向上する上限のシナリオ。
人間が設計した知的エージェントまたはその子孫によって達成できるものは、本質的に人間以下のレベルに制限されています。
これらのシナリオへの分岐点を形成できる 6 つの主要な制約を特定します。
(1) 自律性の制約、(2) 自己構造を改善する能力の制約、(3) 熱力学的効率に関する制約、(4) 物理インフラの更新に関する制約、(5) 相対的優位性の制約、および (6)
地方の制約。

要約(オリジナル)

We discuss scenarios and branch points to four major possible consequences regarding future machine intelligence; 1) the singleton scenario where the first and only super-intelligence acquires a decisive strategic advantage, 2) the multipolar scenario where the singleton scenario is not technically denied but political or other factors in human society or multi-agent interactions between the intelligent agents prevent a single agent from gaining a decisive strategic advantage, 3) the ecosystem scenario where the singleton scenario is denied and many autonomous intelligent agents operate in such a way that they are interdependent and virtually unstoppable, and 4) the upper-bound scenario where cognitive capabilities that can be achieved by human-designed intelligent agents or their descendants are inherently limited to the sub-human level. We identify six major constraints that can form branch points to these scenarios; (1) constraints on autonomy, (2) constraints on the ability to improve self-structure, (3) constraints related to thermodynamic efficiency, (4) constraints on updating physical infrastructure, (5) constraints on relative advantage, and (6) constraints on locality.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google