Benchmarking Deep Learning Models on NVIDIA Jetson Nano for Real-Time Systems: An Empirical Investigation

要約

複雑な深層学習 (DL) モデルの普及により、コンピューター ビジョン ベースのソリューションを含むさまざまなアプリケーションに革命が起こり、リアルタイム システムへの統合が促進されています。
ただし、これらのモデルはリソースを大量に消費する性質があるため、組み込みデバイスやエッジ デバイスなど、計算能力やメモリの少ないデバイスでの展開には課題が生じます。
この研究では、そのような複雑な DL モデルの最適化を実証的に調査し、組み込みデバイス、特に NVIDIA Jetson Nano での機能を分析します。
画像分類とビデオアクション検出の推論速度の観点から、最適化されたモデルの有効性を評価します。
実験結果から、最適化されたモデルは、最適化されていないモデルに比べて、平均して 16.11% の速度向上を示していることがわかります。
これは、モデルの開発と展開においてハードウェアの制約と環境の持続可能性を考慮することが重要であることを強調するだけでなく、リソースに制約のある計算システム上で AI 支援テクノロジーの広範な展開を可能にする上でモデルの最適化が極めて重要な役割を果たすことも強調します。
これは、ハードウェア固有のモデルの最適化を優先することが、エネルギー消費と二酸化炭素排出量を大幅に削減する効率的でスケーラブルなソリューションにつながることの証拠としても機能します。

要約(オリジナル)

The proliferation of complex deep learning (DL) models has revolutionized various applications, including computer vision-based solutions, prompting their integration into real-time systems. However, the resource-intensive nature of these models poses challenges for deployment on low-computational power and low-memory devices, like embedded and edge devices. This work empirically investigates the optimization of such complex DL models to analyze their functionality on an embedded device, particularly on the NVIDIA Jetson Nano. It evaluates the effectiveness of the optimized models in terms of their inference speed for image classification and video action detection. The experimental results reveal that, on average, optimized models exhibit a 16.11% speed improvement over their non-optimized counterparts. This not only emphasizes the critical need to consider hardware constraints and environmental sustainability in model development and deployment but also underscores the pivotal role of model optimization in enabling the widespread deployment of AI-assisted technologies on resource-constrained computational systems. It also serves as proof that prioritizing hardware-specific model optimization leads to efficient and scalable solutions that substantially decrease energy consumption and carbon footprint.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google