Efficient Uncertainty Estimation in Spiking Neural Networks via MC-dropout

要約

【タイトル】
MC-dropoutを用いたスパイキングニューラルネットワークにおける効率的な不確実性推定

【要約】
・スパイキングニューラルネットワーク（SNNs）は、生物学的ニューロンのスパースでイベント駆動型の通信のモデルとして注目され、ノイロモーフィックハードウェアにおいてのエネルギー効率的なアプリケーションに高い可能性を示しています。
・SNNsにおける不確実性推定には限界があり、高いリスクが伴うアプリケーション（自律車、医療診断、高頻度取引など）の意思決定には、予測の不確実性が重要である。
・本研究では、SNNsにおける効率的なMC-dropoutを用いた不確実性推定の手法を提案する。
・ SNNsのタイムステップ機構を利用し、訓練と推論の過程でのオーバーヘッドを最小限に抑えながら高精度かつ高品質の不確実性を実現する。

要約(オリジナル)

Spiking neural networks (SNNs) have gained attention as models of sparse and event-driven communication of biological neurons, and as such have shown increasing promise for energy-efficient applications in neuromorphic hardware. As with classical artificial neural networks (ANNs), predictive uncertainties are important for decision making in high-stakes applications, such as autonomous vehicles, medical diagnosis, and high frequency trading. Yet, discussion of uncertainty estimation in SNNs is limited, and approaches for uncertainty estimation in artificial neural networks (ANNs) are not directly applicable to SNNs. Here, we propose an efficient Monte Carlo(MC)-dropout based approach for uncertainty estimation in SNNs. Our approach exploits the time-step mechanism of SNNs to enable MC-dropout in a computationally efficient manner, without introducing significant overheads during training and inference while demonstrating high accuracy and uncertainty quality.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI