Cooperative Evolutionary Pressure and Diminishing Returns Might Explain the Fermi Paradox: On What Super-AIs Are Like

要約

進化論的なアプローチを使えば、道徳の基礎は協力の問題への適応として説明できます。
「進化」を広義に捉えると、進化が適用される条件を満たすAIは、生物学的実体と同様の協力的な進化圧力を受けることになる。
ここでは、人間、他の社会、AI にとって、物質的な安全と富の増加に伴う協力の増加の適応性が議論されています。
物質的資源へのアクセス増加による有益な利益の減少は、全体として、たとえば銀河全体を植民地化する動機がなくなる可能性も示唆しており、したがって、誰もがどこにいるのかというフェルミのパラドックスの可能性を説明することになる。
さらに、スーパーAIは実現可能でより適切である可能性が高いため、古い社会はスーパーAIを生み出し、それに道を譲る可能性があると主張されています。
最後に、道徳や目標が生活や社会に影響を与えるための効果的な方法についての余談です。環境、文化、法律を強調し、食事の仕方を例に挙げます。
「収益逓減」は、実行不可能性の逆数であるルート未満として定義されます。
また、各実体は一定量のスペースを占有するため、数学的理由により、指数関数的な植民地化や再生産はあり得ないことにも注意してください。
添付されているのは、銀河などを迅速に植民地化するためのアルゴリズム、収穫逓減下での協力と公平性の進化のモデル、信号伝達の発達をシミュレーションするためのソフトウェアです。

要約(オリジナル)

With an evolutionary approach, the basis of morality can be explained as adaptations to problems of cooperation. With ‘evolution’ taken in a broad sense, AIs that satisfy the conditions for evolution to apply will be subject to the same cooperative evolutionary pressure as biological entities. Here the adaptiveness of increased cooperation as material safety and wealth increase is discussed — for humans, for other societies, and for AIs. Diminishing beneficial returns from increased access to material resources also suggests the possibility that, on the whole, there will be no incentive to for instance colonize entire galaxies, thus providing a possible explanation of the Fermi paradox, wondering where everybody is. It is further argued that old societies could engender, give way to, super-AIs, since it is likely that super-AIs are feasible, and fitter. Closing is an aside on effective ways for morals and goals to affect life and society, emphasizing environments, cultures, and laws, and exemplified by how to eat. ‘Diminishing returns’ is defined, as less than roots, the inverse of infeasibility. It is also noted that there can be no exponential colonization or reproduction, for mathematical reasons, as each entity takes up a certain amount of space. Appended are an algorithm for colonizing for example a galaxy quickly, models of the evolution of cooperation and fairness under diminishing returns, and software for simulating signaling development.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google