EdgeMLOps: Operationalizing ML models with Cumulocity IoT and thin-edge.io for Visual quality Inspection

要約

このペーパーでは、リソース制約のエッジデバイスに機械学習モデルを展開および管理するための累積IoTおよびThin-Edge.ioを活用するフレームワークであるEdgemlopsを紹介します。
エッジ環境でのモデルの最適化、展開、ライフサイクル管理の課題に対処します。
フレームワークの有効性は、資産の画像がエッジデバイスで処理され、資産管理システム内でリアルタイムの条件の更新を可能にする視覚品質検査（VQI）ユースケースを通じて実証されています。
さらに、Raspberry Pi 4で、さまざまな量子化方法、特に静的および動的な署名-Int8のパフォーマンスの利点を評価し、FP32精度と比較して有意な推論時間削減を示します。
我々の結果は、産業用途向けのEdgeで効率的でスケーラブルなAI展開を可能にするEdgemlopsの可能性を強調しています。

要約(オリジナル)

This paper introduces EdgeMLOps, a framework leveraging Cumulocity IoT and thin-edge.io for deploying and managing machine learning models on resource-constrained edge devices. We address the challenges of model optimization, deployment, and lifecycle management in edge environments. The framework’s efficacy is demonstrated through a visual quality inspection (VQI) use case where images of assets are processed on edge devices, enabling real-time condition updates within an asset management system. Furthermore, we evaluate the performance benefits of different quantization methods, specifically static and dynamic signed-int8, on a Raspberry Pi 4, demonstrating significant inference time reductions compared to FP32 precision. Our results highlight the potential of EdgeMLOps to enable efficient and scalable AI deployments at the edge for industrial applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google