Brain-Inspired Computational Intelligence via Predictive Coding

要約

人工知能 (AI) は、今世紀の主要テクノロジーの 1 つとして急速に成長しています。
これまでの AI の成果の大部分は、誤差逆伝播学習アルゴリズムでトレーニングされたディープ ニューラル ネットワークを使用して達成されています。
しかし、このアプローチが広く採用されていることで、かなりの計算コスト、不確実性の定量化の難しさ、堅牢性の欠如、信頼性の低さ、生物学的不合理性など、いくつかの重要な制限が浮き彫りになっています。
これらの制限に対処するには、神経科学理論に触発され、導かれた計画が必要になる可能性があります。
そのような理論の 1 つである予測コーディング (PC) は、機械知能タスクで有望なパフォーマンスを示し、機械学習コミュニティにとって潜在的に価値のある刺激的な特性を示しています。PC は、さまざまな脳領域での情報処理をモデル化でき、認知制御に使用できます。
変分推論にしっかりとした数学的根拠があり、特定のクラスの連続状態生成モデルに強力な反転スキームを提供します。
この方向の研究を前景化することを期待して、私たちはこの観点に貢献した文献を調査し、機械学習と計算知能全体の将来において PC が役割を果たす可能性のあるさまざまな方法に焦点を当てます。

要約(オリジナル)

Artificial intelligence (AI) is rapidly becoming one of the key technologies of this century. The majority of results in AI thus far have been achieved using deep neural networks trained with the error backpropagation learning algorithm. However, the ubiquitous adoption of this approach has highlighted some important limitations such as substantial computational cost, difficulty in quantifying uncertainty, lack of robustness, unreliability, and biological implausibility. It is possible that addressing these limitations may require schemes that are inspired and guided by neuroscience theories. One such theory, called predictive coding (PC), has shown promising performance in machine intelligence tasks, exhibiting exciting properties that make it potentially valuable for the machine learning community: PC can model information processing in different brain areas, can be used in cognitive control and robotics, and has a solid mathematical grounding in variational inference, offering a powerful inversion scheme for a specific class of continuous-state generative models. With the hope of foregrounding research in this direction, we survey the literature that has contributed to this perspective, highlighting the many ways that PC might play a role in the future of machine learning and computational intelligence at large.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google