From the Pursuit of Universal AGI Architecture to Systematic Approach to Heterogenous AGI: Addressing Alignment, Energy, & AGI Grand Challenges

要約

人工知能（AI）は、エネルギー壁、アライメントの問題、狭いAIからAGIへの飛躍という壮大な課題の三連に直面しています。
Sagiは、システム設計の原則を利用してエネルギー壁とアライメントの課題を克服するためのAGIへの体系的なアプローチです。
このペーパーでは、AGIは、多数の設計固有のパスウェイを通じて実現し、特異な包括的なアーキテクチャではなくシステム設計を通じてカスタマイズできると主張しています。
AGIシステムは、意図したユースケースを条件とするダイバーアーキテクチャの構成と機能を示す場合があります。
AISの最も恐ろしい課題として広く認識されている課題であるアラインメントは、システム設計に最も大きく依存し、AGIの基本基準としての主要な推進力として機能するものです。
人間の道徳の複雑さを調整するための複雑さを捉えるには、道徳的な意思決定の複雑さとあらゆるレベルでの広範な倫理的処理を表すために建築的支援が必要であり、パフォーマンスの信頼性は人間の道徳的判断の信頼性を超えています。
したがって、人間の脳を複製したり似たりすることなく、安全性とアラインメントの目標に向けてより堅牢なアーキテクチャを必要とします。
学習基板（システムアーキテクチャを学習できる）のシステム設計（フィードバックループ、エネルギー、パフォーマンスの最適化など）は、AGIの目標と保証を達成するためにより基本的であり、古典的な象徴的、緊急、ハイブリッドアプローチに取って代わると主張します。
システムアーキテクチャ自体を学習することにより、結果として生じるAGIは、自発的な出現の産物ではなく、統合された道徳アーキテクチャを含むコア機能を備えた系統的な設計と意図的なエンジニアリングの産物であり、そのアーキテクチャに深く埋め込まれています。
このアプローチは、アラインメント、自己学習システムアーキテクチャによる効率などの設計目標を保証することを目的としています。

要約(オリジナル)

Artificial intelligence (AI) faces a trifecta of grand challenges: the Energy Wall, the Alignment Problem and the Leap from Narrow AI to AGI. We present SAGI, a Systematic Approach to AGI that utilizes system design principles to overcome the energy wall and alignment challenges. This paper asserts that AGI can be realized through multiplicity of design specific pathways and customized through system design rather than a singular overarching architecture. AGI systems may exhibit diver architectural configurations and capabilities, contingent upon their intended use cases. Alignment, a challenge broadly recognized as AIs most formidable, is the one that depends most critically on system design and serves as its primary driving force as a foundational criterion for AGI. Capturing the complexities of human morality for alignment requires architectural support to represent the intricacies of moral decision-making and the pervasive ethical processing at every level, with performance reliability exceeding that of human moral judgment. Hence, requiring a more robust architecture towards safety and alignment goals, without replicating or resembling the human brain. We argue that system design (such as feedback loops, energy and performance optimization) on learning substrates (capable of learning its system architecture) is more fundamental to achieving AGI goals and guarantees, superseding classical symbolic, emergentist and hybrid approaches. Through learning of the system architecture itself, the resulting AGI is not a product of spontaneous emergence but of systematic design and deliberate engineering, with core features, including an integrated moral architecture, deeply embedded within its architecture. The approach aims to guarantee design goals such as alignment, efficiency by self-learning system architecture.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google