IoTCO2: Assessing the End-To-End Carbon Footprint of Internet-of-Things-Enabled Deep Learning

要約

プライバシーを向上させ、サービス品質 (QoS) を確保するために、データ処理のためにモノのインターネット (IoT) デバイスにディープラーニング (DL) モデルが導入されることが増えており、運用と運用の両方をカバーする IoT 上の DL に関連する二酸化炭素排出量が大幅に増加しています。
具現化された側面。
既存の運用エネルギー予測ツールは、量子化された DL モデルや新興のニューラル プロセッシング ユニット (NPU) を見落としがちですが、組み込まれた二酸化炭素排出量モデリング ツールは、IoT デバイスに一般的な非コンピューティング ハードウェア コンポーネントを無視しており、IoT 対応 DL 用の正確な二酸化炭素排出量モデリング ツールにギャップが生じています。
このペーパーでは、IoT 対応 DL における二酸化炭素排出量を正確に推定するためのエンドツーエンド ツールである \textit{\carb} を紹介します。実際の測定と比較した偏差は、運用時の二酸化炭素排出量で 5\%、具体化された二酸化炭素排出量で 3.23\% という低さです。
さまざまな DL モデルにわたって。
さらに、\carb~ の実際の応用例が複数のユーザー ケース スタディを通じて紹介されています。

要約(オリジナル)

To improve privacy and ensure quality-of-service (QoS), deep learning (DL) models are increasingly deployed on Internet of Things (IoT) devices for data processing, significantly increasing the carbon footprint associated with DL on IoT, covering both operational and embodied aspects. Existing operational energy predictors often overlook quantized DL models and emerging neural processing units (NPUs), while embodied carbon footprint modeling tools neglect non-computing hardware components common in IoT devices, creating a gap in accurate carbon footprint modeling tools for IoT-enabled DL. This paper introduces \textit{\carb}, an end-to-end tool for precise carbon footprint estimation in IoT-enabled DL, with deviations as low as 5\% for operational and 3.23\% for embodied carbon footprints compared to actual measurements across various DL models. Additionally, practical applications of \carb~are showcased through multiple user case studies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google