Designing Ecosystems of Intelligence from First Principles

要約

このホワイトペーパーは、今後 10 年 (およびそれ以降) の人工知能分野の研究開発のビジョンを示しています。
その最終的な結論は、自然および合成の意味形成のサイバー物理的エコシステムであり、人間はそこに不可欠な参加者であり、これを私たちが「共有知性」と呼んでいます。
このビジョンは、能動推論を前提としています。これは、知能の物理学として読み解くことができ、自己組織化の物理学を継承した適応行動の定式化です。
これに関連して、私たちは知性を、自分の感覚世界の生成モデルの証拠を蓄積する能力、つまり自己証明としても知られるものとして理解します。
形式的には、これは、推論、学習、モデルの選択など、いくつかのスケールにわたる信念の更新を介して (ベイジアン) モデルの証拠を最大化することに対応します。
運用上、この自己証明は、(変分) メッセージ パッシングまたはファクター グラフ上の信念伝播を介して実現できます。
重要なことは、能動的な推論は、インテリジェント システムの生存上の必須事項を前面に打ち出すことです。
つまり、好奇心や不確実性の解決です。
これと同じ命令が、エージェントのアンサンブルにおける信念の共有を裏付けており、各エージェントの生成世界モデルの特定の側面 (つまり、要因) が共通の基準または参照フレームを提供します。
能動推論は、この信念共有の生態学において基礎的な役割を果たしており、共有された物語と目標に基づいた集合知の正式な説明につながります。
また、このようなインテリジェンスのエコシステムを可能にし、そのようなエコシステムに向けた最初の、そして重要なステップとして、共有超空間モデリング言語とトランザクション プロトコルの開発を動機付けるために開発する必要がある通信プロトコルの種類についても検討します。

要約(オリジナル)

This white paper lays out a vision of research and development in the field of artificial intelligence for the next decade (and beyond). Its denouement is a cyber-physical ecosystem of natural and synthetic sense-making, in which humans are integral participants — what we call ”shared intelligence”. This vision is premised on active inference, a formulation of adaptive behavior that can be read as a physics of intelligence, and which inherits from the physics of self-organization. In this context, we understand intelligence as the capacity to accumulate evidence for a generative model of one’s sensed world — also known as self-evidencing. Formally, this corresponds to maximizing (Bayesian) model evidence, via belief updating over several scales: i.e., inference, learning, and model selection. Operationally, this self-evidencing can be realized via (variational) message passing or belief propagation on a factor graph. Crucially, active inference foregrounds an existential imperative of intelligent systems; namely, curiosity or the resolution of uncertainty. This same imperative underwrites belief sharing in ensembles of agents, in which certain aspects (i.e., factors) of each agent’s generative world model provide a common ground or frame of reference. Active inference plays a foundational role in this ecology of belief sharing — leading to a formal account of collective intelligence that rests on shared narratives and goals. We also consider the kinds of communication protocols that must be developed to enable such an ecosystem of intelligences and motivate the development of a shared hyper-spatial modeling language and transaction protocol, as a first — and key — step towards such an ecology.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google