Cooperative Evolutionary Pressure and Diminishing Returns Might Explain the Fermi Paradox: On What Super-AIs Are Like

要約

進化論的アプローチでは、道徳の基礎は協力の問題への適応として説明できる。進化」を広義に捉えれば、進化が適用される条件を満たす進化するAIは、生物学的な存在と同じように協力的な進化の圧力を受けることになる。ここでは、物質的な安全性と富が増加するにつれて協力が増加することの適応性について、人間について、他の社会について、そしてAIについて議論する。物質的資源へのアクセスの増加から得られる有益な見返りが減少していくことは、全体として、例えば銀河全体を植民地化するインセンティブがなくなる可能性も示唆している。さらに、古い社会がスーパーAIを生み出し、スーパーAIに道を譲る可能性があると論じている。最後に、モラルや目標が人生や社会に影響を与える効果的な方法について、環境、文化、法律に重点を置き、食べ方に例示している。 例えば銀河系を素早く植民地化するアルゴリズム、収穫逓増下での協力と公平性の進化モデル、シグナル伝達の発達をシミュレートするソフトウェアなどが添付されている。また、数学的な理由から、指数関数的な植民地化や繁殖はありえない。

要約(オリジナル)

With an evolutionary approach, the basis of morality can be explained as adaptations to problems of cooperation. With ‘evolution’ taken in a broad sense, evolving AIs that satisfy the conditions for evolution to apply will be subject to the same cooperative evolutionary pressure as biological entities. Here the adaptiveness of increased cooperation as material safety and wealth increase is discussed — for humans, for other societies, and for AIs. Diminishing beneficial returns from increased access to material resources also suggests the possibility that, on the whole, there will be no incentive to for instance colonize entire galaxies, thus providing a possible explanation of the Fermi paradox, wondering where everybody is. It is further argued that old societies could engender, give way to, super-AIs, since it is likely that super-AIs are feasible, and fitter. Closing is an aside on effective ways for morals and goals to affect life and society, emphasizing environments, cultures, and laws, and exemplified by how to eat. Appended are an algorithm for colonizing for example a galaxy quickly, models of the evolution of cooperation and fairness under diminishing returns, and software for simulating signaling development. It is also noted that there can be no exponential colonization or reproduction, for mathematical reasons, as each entity takes up a certain amount of space.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL