Consciousness in Artificial Intelligence: Insights from the Science of Consciousness

要約

現在または近い将来の AI システムが意識をもつ可能性があるかどうかは、科学的な関心の対象であり、社会の関心が高まっています。
このレポートは、AI の意識に対する厳密で経験に基づいたアプローチを主張し、実証しています。つまり、最もよくサポートされている神経科学的な意識理論に照らして、既存の AI システムを詳細に評価しています。
私たちは、再帰的処理理論、グローバル ワークスペース理論、高次理論、予測処理、注意スキーマ理論など、意識に関するいくつかの著名な科学理論を調査します。
これらの理論から、私たちは意識の「指標特性」を導き出し、これらの特性について AI システムを評価できるようにする計算用語で解明します。
これらの指標プロパティを使用して、いくつかの最近の AI システムを評価し、将来のシステムがそれらをどのように実装するかを議論します。
私たちの分析は、現在の AI システムには意識的なものがないことを示唆していますが、これらの指標を満たす AI システムを構築する上で明らかな技術的障壁がないことも示唆しています。

要約(オリジナル)

Whether current or near-term AI systems could be conscious is a topic of scientific interest and increasing public concern. This report argues for, and exemplifies, a rigorous and empirically grounded approach to AI consciousness: assessing existing AI systems in detail, in light of our best-supported neuroscientific theories of consciousness. We survey several prominent scientific theories of consciousness, including recurrent processing theory, global workspace theory, higher-order theories, predictive processing, and attention schema theory. From these theories we derive ‘indicator properties’ of consciousness, elucidated in computational terms that allow us to assess AI systems for these properties. We use these indicator properties to assess several recent AI systems, and we discuss how future systems might implement them. Our analysis suggests that no current AI systems are conscious, but also suggests that there are no obvious technical barriers to building AI systems which satisfy these indicators.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google