Integrating Causality with Neurochaos Learning: Proposed Approach and Research Agenda

要約

ニューラルネットワークを介して実装されたディープラーニングは、オブジェクトの検出/分類や予測などの複雑なタスクの方法を提供することにより、機械学習に革命をもたらしました。
ただし、深いニューラルネットワークに基づくアーキテクチャは、主に統計的な性質とトレーニングデータの因果構造をキャプチャできないため、収益の減少を生み出し始めています。
深い学習のもう1つの問題は、その高エネルギー消費です。これは、持続可能性の観点からそれほど望ましいものではありません。
したがって、これらの問題に対処するための代替アプローチが考慮されており、どちらも人間の脳の機能に触発されています。
1つのアプローチは、因果学習です。これは、ニューラルネットワークがトレーニングされているデータセット内の項目間の因果関係を考慮しています。
これは、深いニューラルネットワークの学習表現で一般的な偽の相関を最小限に抑えるのに役立つと予想されます。
もう1つのアプローチは、生物学的ニューラルネットワーク（脳/中枢神経系）におけるニューロンに固有の非線形カオス発火からインスピレーションを引き出す最近の開発であるNeurochaos学習です。
どちらのアプローチでも、ディープラーニングだけでも結果が改善されています。
そのために、このポジションペーパーでは、特にリンクされたデータを含むドメインで、より良い結果を生み出すために因果関係と神経変動の学習アプローチを統合する方法を調査します。
この統合のアプローチを提案して、分類、予測、補強学習を強化します。
また、この統合を実現するために調査する必要がある一連の研究質問を提案します。

要約(オリジナル)

Deep learning implemented via neural networks, has revolutionized machine learning by providing methods for complex tasks such as object detection/classification and prediction. However, architectures based on deep neural networks have started to yield diminishing returns, primarily due to their statistical nature and inability to capture causal structure in the training data. Another issue with deep learning is its high energy consumption, which is not that desirable from a sustainability perspective. Therefore, alternative approaches are being considered to address these issues, both of which are inspired by the functioning of the human brain. One approach is causal learning, which takes into account causality among the items in the dataset on which the neural network is trained. It is expected that this will help minimize the spurious correlations that are prevalent in the learned representations of deep neural networks. The other approach is Neurochaos Learning, a recent development, which draws its inspiration from the nonlinear chaotic firing intrinsic to neurons in biological neural networks (brain/central nervous system). Both approaches have shown improved results over just deep learning alone. To that end, in this position paper, we investigate how causal and neurochaos learning approaches can be integrated together to produce better results, especially in domains that contain linked data. We propose an approach for this integration to enhance classification, prediction and reinforcement learning. We also propose a set of research questions that need to be investigated in order to make this integration a reality.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google