要約
汎用人工知能 (AGI) の開発の見通しは何ですか?
私は、「エージェンシー」の概念に特に焦点を当てて、生きているシステムとアルゴリズムのシステムを体系的に比較することによって、この問題を調査します。
考慮すべき 3 つの基本的な違いがあります: (1) 生命システムはオートポイエーシス的、つまり自己生産的であるため、独自の固有の目標を設定することができますが、アルゴリズムは両方とも外部によって提供されるターゲット機能を備えた計算環境に存在します。
エージェント。
(2) 生きたシステムは、その象徴的側面と物理的側面の間に分離がないという意味で具体化されていますが、アルゴリズムはソフトウェアをハードウェアから最大限に分離する計算アーキテクチャ上で実行されます。
(3) 生きているシステムは、ほとんどの問題が明確に定義されていない (すべてが定義できるわけではない) 大きな世界を経験しますが、アルゴリズムはすべての問題が明確に定義されている小さな世界に存在します。
これら 3 つの違いは、実際のシステムとアルゴリズム システムの機能と制限が大きく異なることを意味します。
特に、現在の AI 研究のアルゴリズムの枠組みでは、（単なる模倣を超えた）真の AGI を開発できる可能性は非常に低いです。
したがって、アルゴリズム ツールの適切な開発と展開に関する議論は、人工システムに真のエージェンシーが出現する可能性が非常に低いということではなく、現在の限定的な AI の危険性と機会を中心に形成されるべきです。
要約(オリジナル)
What is the prospect of developing artificial general intelligence (AGI)? I investigate this question by systematically comparing living and algorithmic systems, with a special focus on the notion of ‘agency.’ There are three fundamental differences to consider: (1) Living systems are autopoietic, that is, self-manufacturing, and therefore able to set their own intrinsic goals, while algorithms exist in a computational environment with target functions that are both provided by an external agent. (2) Living systems are embodied in the sense that there is no separation between their symbolic and physical aspects, while algorithms run on computational architectures that maximally isolate software from hardware. (3) Living systems experience a large world, in which most problems are ill-defined (and not all definable), while algorithms exist in a small world, in which all problems are well-defined. These three differences imply that living and algorithmic systems have very different capabilities and limitations. In particular, it is extremely unlikely that true AGI (beyond mere mimicry) can be developed in the current algorithmic framework of AI research. Consequently, discussions about the proper development and deployment of algorithmic tools should be shaped around the dangers and opportunities of current narrow AI, not the extremely unlikely prospect of the emergence of true agency in artificial systems.
arxiv情報
| 著者 | Johannes Jaeger |
| 発行日 | 2023-07-27 08:18:47+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google