Ensembles of Compact, Region-specific & Regularized Spiking Neural Networks for Scalable Place Recognition

要約

【タイトル】
スケーラブルな場所認識のためのコンパクト、領域特異的、正則化されたスパイキングニューラルネットワークのアンサンブル

【要約】
– スパイクニューロンネットワークは、専用ハードウェア上での高エネルギー効率性により、ロボット工学において大きな潜在的な有用性がある。
– しかし、従来の方法と比較して、概念実証実装において競争力のある性能や機能を達成していない。
– 本研究は、スケーラビリティの主要な具体的な問題の一つを取り組んでおり、地域的にコンパクトなスパイキングネットワークが、各々地域の場所認識を学習し責任を持つ新しいモジュラーアンサンブルネットワークアプローチを提案している。
– 本アプローチにより、高度にスケーラブルなシステムを構築できるが、展開時のグローバルな正則化が不十分なため、学習した領域外の場所に誤って反応する過剰反応ニューロンの問題が発生する。
– 本研究では、初期の環境学習フェーズ中にこれらの問題のある過剰反応ニューロンを検出および除去する正則化アプローチを導入し、本新しいスケーラブルモジュラーシステムをNordlandおよびOxford RobotCarのベンチマークローカリゼーションデータセットで評価した。
– NetVLAD、DenseVLAD、SADの標準的な技術 のベンチマークローカリゼーションシステムで性能を比較した。先行するスパイキングニューラルネットワークシステムと比較して、本システムは、小規模データセットで先行研究を大きく上回ったが、先行研究の動作が計算的に不可能な27倍の大規模なベンチマークデータセットにおいても性能を維持し、従来のローカリゼーションシステムと競争力を維持している。

要約(オリジナル)

Spiking neural networks have significant potential utility in robotics due to their high energy efficiency on specialized hardware, but proof-of-concept implementations have not yet typically achieved competitive performance or capability with conventional approaches. In this paper, we tackle one of the key practical challenges of scalability by introducing a novel modular ensemble network approach, where compact, localized spiking networks each learn and are solely responsible for recognizing places in a local region of the environment only. This modular approach creates a highly scalable system. However, it comes with a high-performance cost where a lack of global regularization at deployment time leads to hyperactive neurons that erroneously respond to places outside their learned region. Our second contribution introduces a regularization approach that detects and removes these problematic hyperactive neurons during the initial environmental learning phase. We evaluate this new scalable modular system on benchmark localization datasets Nordland and Oxford RobotCar, with comparisons to standard techniques NetVLAD, DenseVLAD, and SAD, and a previous spiking neural network system. Our system substantially outperforms the previous SNN system on its small dataset, but also maintains performance on 27 times larger benchmark datasets where the operation of the previous system is computationally infeasible, and performs competitively with the conventional localization systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI