Threshold Modulation for Online Test-Time Adaptation of Spiking Neural Networks

要約

最近、神経変動チップに展開されたスパイクニューラルネットワーク（SNN）は、さまざまなシナリオでエッジデバイスで非常に効率的なソリューションを提供します。
ただし、展開後に流通シフトに適応する能力は、重要な課題になりました。
オンラインテスト時間適応（OTTA）は、ソースデータやラベル付きターゲットサンプルを必要とせずに、モデルが新しいデータ分布に動的に調整できるようにすることにより、有望なソリューションを提供します。
それにもかかわらず、既存のOTTAメソッドは、主に従来の人工ニューラルネットワーク向けに設計されており、SNNには適していません。
このギャップに対処するために、流通シフトの下でモデルの一般化を強化することを目的とした、低電力の神経形態に優しいオンラインテスト時間適応フレームワークを提案します。
提案されたアプローチは、しきい値変調（TM）と呼ばれます。これは、ニューロンダイナミクスにインスパイアされた正規化を介して発火しきい値を動的に調整し、神経形態のハードウェアとより互換性があります。
ベンチマークデータセットの実験結果は、低い計算コストを維持しながら、分布シフトに対するSNNの堅牢性を改善する際のこの方法の有効性を示しています。
提案された方法は、SNNのオンラインテスト時間適応のための実用的なソリューションを提供し、将来の神経型チップの設計にインスピレーションを提供します。
デモコードは、github.com/nneurotransmitterr/tm-otta-snnで入手できます。

要約(オリジナル)

Recently, spiking neural networks (SNNs), deployed on neuromorphic chips, provide highly efficient solutions on edge devices in different scenarios. However, their ability to adapt to distribution shifts after deployment has become a crucial challenge. Online test-time adaptation (OTTA) offers a promising solution by enabling models to dynamically adjust to new data distributions without requiring source data or labeled target samples. Nevertheless, existing OTTA methods are largely designed for traditional artificial neural networks and are not well-suited for SNNs. To address this gap, we propose a low-power, neuromorphic chip-friendly online test-time adaptation framework, aiming to enhance model generalization under distribution shifts. The proposed approach is called Threshold Modulation (TM), which dynamically adjusts the firing threshold through neuronal dynamics-inspired normalization, being more compatible with neuromorphic hardware. Experimental results on benchmark datasets demonstrate the effectiveness of this method in improving the robustness of SNNs against distribution shifts while maintaining low computational cost. The proposed method offers a practical solution for online test-time adaptation of SNNs, providing inspiration for the design of future neuromorphic chips. The demo code is available at github.com/NneurotransmitterR/TM-OTTA-SNN.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google