The Energy Cost of Artificial Intelligence of Things Lifecycle

要約

人工知能（AI）と既存のモノのインターネット（IoT）を組み合わせることで、さまざまな経済分野にわたって、より合理的で自律的なオペレーションが可能になる。その結果、AI技術を中核とするモノの人工知能（AIoT）のパラダイムは、より複雑なニューラル・アーキテクチャーに伴って大きくなる可能性のある、エネルギーと炭素の追加コストを意味する。いくつかのAIoTコンポーネントのエネルギーとカーボンフットプリント（CF）をよりよく理解するために、ごく最近の研究では従来の測定基準が用いられている。しかし、これらのメトリクスは、推論のエネルギー効率の側面を捉えるようには設計されていません。本論文では、AIoTシステムのライフサイクルにおける推論の全体的なエネルギーコストを把握するために、新しいメトリックであるAIoTライフサイクルのエネルギーコスト（eCAL）を提案する。我々は、AIoTライフサイクルに関与する個々のコンポーネントにおけるデータ操作の複雑さを分析することにより、AIoTシステムのeCALを決定するための新しい手法を考案し、全体的なエネルギー消費量とビットあたりのエネルギー消費量を導出する。eCALを用いることで、より優れたモデルであればあるほど、また、より多く使用されればされるほど、推論のエネルギー効率が高くなることを示す。AIoT構成の例では、$100$の推論を行う場合のeCALは、$1000$の推論を行う場合よりも$1.43$高い。また、各国のエネルギー消費量と炭素原単位(CI)に基づき、同等のCO$_{2}$排出量を計算することで、AIoTシステムのCFを評価する。2023年の再生可能なデータを用いた我々の分析では、ドイツでAIoTシステムを導入すると、フィンランドよりも4.62$高いCO$_2$を排出することが明らかになった。

要約(オリジナル)

Artificial intelligence (AI)coupled with existing Internet of Things (IoT) enables more streamlined and autonomous operations across various economic sectors. Consequently, the paradigm of Artificial Intelligence of Things (AIoT) having AI techniques at its core implies additional energy and carbon costs that may become significant with more complex neural architectures. To better understand the energy and Carbon Footprint (CF) of some AIoT components, very recent studies employ conventional metrics. However, these metrics are not designed to capture energy efficiency aspects of inference. In this paper, we propose a new metric, the Energy Cost of AIoT Lifecycle (eCAL) to capture the overall energy cost of inference over the lifecycle of an AIoT system. We devise a new methodology for determining eCAL of an AIoT system by analyzing the complexity of data manipulation in individual components involved in the AIoT lifecycle and derive the overall and per bit energy consumption. With eCAL we show that the better a model is and the more it is used, the more energy efficient an inference is. For an example AIoT configuration, eCAL for making $100$ inferences is $1.43$ times higher than for $1000$ inferences. We also evaluate the CF of the AIoT system by calculating the equivalent CO$_{2}$ emissions based on the energy consumption and the Carbon Intensity (CI) across different countries. Using 2023 renewable data, our analysis reveals that deploying an AIoT system in Germany results in emitting $4.62$ times higher CO$_2$ than in Finland, due to latter using more low-CI energy sources.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL