HARFLOW3D: A Latency-Oriented 3D-CNN Accelerator Toolflow for HAR on FPGA Devices

要約

人間の行動認識タスク (HAR) では、3D 畳み込みニューラル ネットワークが非常に効果的であることが証明されており、最先端の結果が得られます。
この研究では、モデルの固有の特性とターゲットの FPGA デバイスの機能を考慮して、そのようなモデルを FPGA にマッピングするための新しいストリーミング アーキテクチャ ベースのツールフローを紹介します。
HARFLOW3D ツールフローは、ONNX 形式の 3D CNN と FPGA 特性の記述を入力として受け取り、計算のレイテンシーを最小限に抑えるデザインを生成します。
ツールフローは、i) 3D CNN パーサー、ii) パフォーマンスおよびリソース モデル、iii) 生成されたハードウェア上で 3D モデルを実行するためのスケジューリング アルゴリズム、iv) に合わせて調整されたリソース認識最適化エンジンを含む多数の部分で構成されています。
3D モデル、v) FPGA の合成可能なコードへの自動マッピング。
ツールフローが幅広いモデルやデバイスをサポートできることは、さまざまな 3D CNN と FPGA システムのペアでの多数の実験を通じて示されています。
さらに、このツールフローは、これまで FPGA にマッピングされていなかった 3D CNN モデルに対して高いパフォーマンスの結果を生成し、この分野における FPGA ベースのシステムの可能性を実証しています。
全体として、HARFLOW3D は、手作業で調整されたさまざまな最先端のアプローチと比較して、競争力のあるレイテンシーを実現する能力を実証しており、既存の作品の一部と比較して最大 5 倍のパフォーマンスを達成できます。

要約(オリジナル)

For Human Action Recognition tasks (HAR), 3D Convolutional Neural Networks have proven to be highly effective, achieving state-of-the-art results. This study introduces a novel streaming architecture based toolflow for mapping such models onto FPGAs considering the model’s inherent characteristics and the features of the targeted FPGA device. The HARFLOW3D toolflow takes as input a 3D CNN in ONNX format and a description of the FPGA characteristics, generating a design that minimizes the latency of the computation. The toolflow is comprised of a number of parts, including i) a 3D CNN parser, ii) a performance and resource model, iii) a scheduling algorithm for executing 3D models on the generated hardware, iv) a resource-aware optimization engine tailored for 3D models, v) an automated mapping to synthesizable code for FPGAs. The ability of the toolflow to support a broad range of models and devices is shown through a number of experiments on various 3D CNN and FPGA system pairs. Furthermore, the toolflow has produced high-performing results for 3D CNN models that have not been mapped to FPGAs before, demonstrating the potential of FPGA-based systems in this space. Overall, HARFLOW3D has demonstrated its ability to deliver competitive latency compared to a range of state-of-the-art hand-tuned approaches being able to achieve up to 5$\times$ better performance compared to some of the existing works.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google