Multiplierless In-filter Computing for tinyML Platforms

要約

タイトル：tinyMLプラットフォーム向けの乗数レスインフィルタコンピューティング

要約：

– 環境要因の連続的なモニタリングや生物医学的分類など、巨大なセンサーデータを生成する課題に対して遠隔モニタリングの場合、通信容量が限られているため、データが生成された場所で分類が必要であり、分類されたデータのみを使用することが重要になってきています。
– Margin Propagation（MP）近似を使用した低消費電力エッジデバイスで展開可能なインフィルタ音響分類のための乗数レスフレームワークを提案しています。
– 分類フレームワークの設計全体は、特徴抽出と推論を含むテンプレートベースのカーネルマシンに基づき、加算/減算、シフト、比較器などの基本プリミティブをハードウェア実装に使用します。
– 従来の分類に対する全精度トレーニング方法とは異なり、近似誤差を軽減するためにバックプロパゲーションを使用し、MPベースの近似を使用します。
– 提案されたフレームワークは音響分類に十分な汎用性があります。しかし、インフィルタカーネルマシンをよりハードウェアフレンドリーにするために、パラレルFinite Impulse Response（FIR）フィルタバンクをカーネルマシン分類器に最適化したFPGAに実装します。
– FIRフィルタは、MP近似とフィルタの次数を減らすダウンサンプリング法を使用して実装されたカーネルマシンの特徴抽出器および非線形カーネルとして機能します。
– Spartan 7上のFPGA実装により、MP近似されたインフィルタカーネルマシンは、わずか1K個のスライスを下回るトラディショナル分類フレームワークよりも効率的であることが示されました。

要約(オリジナル)

Wildlife conservation using continuous monitoring of environmental factors and biomedical classification, which generate a vast amount of sensor data, is a challenge due to limited bandwidth in the case of remote monitoring. It becomes critical to have classification where data is generated, and only classified data is used for monitoring. We present a novel multiplierless framework for in-filter acoustic classification using Margin Propagation (MP) approximation used in low-power edge devices deployable in remote areas with limited connectivity. The entire design of this classification framework is based on template-based kernel machine, which include feature extraction and inference, and uses basic primitives like addition/subtraction, shift, and comparator operations, for hardware implementation. Unlike full precision training methods for traditional classification, we use MP-based approximation for training, including backpropagation mitigating approximation errors. The proposed framework is general enough for acoustic classification. However, we demonstrate the hardware friendliness of this framework by implementing a parallel Finite Impulse Response (FIR) filter bank in a kernel machine classifier optimized for a Field Programmable Gate Array (FPGA). The FIR filter acts as the feature extractor and non-linear kernel for the kernel machine implemented using MP approximation and a downsampling method to reduce the order of the filters. The FPGA implementation on Spartan 7 shows that the MP-approximated in-filter kernel machine is more efficient than traditional classification frameworks with just less than 1K slices.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI