Hardware-aware mobile building block evaluation for computer vision

要約

この作業では、ハードウェアを認識した方法でコンピューター ビジョン用の効率的なニューラル ネットワーク ビルディング ブロックのパフォーマンスを正確に評価および比較する方法を提案します。
私たちの比較では、設計空間からランダムにサンプリングされたネットワークに基づくパレート フロントを使用して、根底にある精度/複雑さのトレードオフを捉えています。
私たちのアプローチにより、以前の比較パラダイムによって得られた情報を一致させることができますが、ハードウェアのコストと精度の関係についてより多くの洞察が得られることを示しています。
当社の方法論を使用して、さまざまなビルディング ブロックを分析し、さまざまな組み込みハードウェア プラットフォームでのパフォーマンスを評価します。
これは、ニューラル ネットワークの設計プロセスにおける事前選択ステップとしてビルディング ブロックをベンチマークすることの重要性を強調しています。
適切なビルディング ブロックを選択すると、特定のハードウェア ML アクセラレータで推論を最大 2 倍高速化できることが示されています。

要約(オリジナル)

In this work we propose a methodology to accurately evaluate and compare the performance of efficient neural network building blocks for computer vision in a hardware-aware manner. Our comparison uses pareto fronts based on randomly sampled networks from a design space to capture the underlying accuracy/complexity trade-offs. We show that our approach allows to match the information obtained by previous comparison paradigms, but provides more insights in the relationship between hardware cost and accuracy. We use our methodology to analyze different building blocks and evaluate their performance on a range of embedded hardware platforms. This highlights the importance of benchmarking building blocks as a preselection step in the design process of a neural network. We show that choosing the right building block can speed up inference by up to a factor of 2x on specific hardware ML accelerators.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google