ApproXAI: Energy-Efficient Hardware Acceleration of Explainable AI using Approximate Computing

要約

説明可能な人工知能（XAI）は、最適化の問題として解釈可能性をフレーミングすることにより、AIシステムの透明性を高めます。
ただし、このアプローチでは、計算的に集中的な操作の多数の反復が必要であり、リアルタイムシナリオでの適用性を制限します。
最近の研究では、FPGAとTPUのXaiハードウェアアクセラレーションに焦点を当てていますが、これらの方法はリアルタイム設定でのエネルギー効率に完全に対処していません。
この制限に対処するために、統合された勾配、モデル蒸留、Shapley分析など、Xaiアルゴリズムに近似コンピューティング技術を活用する新しいフレームワークであるXaiedgeを提案します。
Xaiedgeは、これらのアルゴリズムをおおよそのマトリックス計算に変換し、畳み込み、フーリエ変換、および近似コンピューティングパラダイムの相乗効果を活用します。
このアプローチにより、TPUベースのエッジデバイスで効率的なハードウェアアクセラレーションが可能になり、リアルタイムの結果の解釈が高速化されます。
当社の包括的な評価は、Xaiedgeが同等の精度を維持しながら、既存の正確なXaiハードウェアアクセラレーション技術と比較して、エネルギー効率の2ドル$ $ $の改善を達成することを示しています。
これらの結果は、Xaiedgeがエネルギー制約のリアルタイムアプリケーションで説明可能なAIの展開を大幅に進める可能性を強調しています。

要約(オリジナル)

Explainable artificial intelligence (XAI) enhances AI system transparency by framing interpretability as an optimization problem. However, this approach often necessitates numerous iterations of computationally intensive operations, limiting its applicability in real-time scenarios. While recent research has focused on XAI hardware acceleration on FPGAs and TPU, these methods do not fully address energy efficiency in real-time settings. To address this limitation, we propose XAIedge, a novel framework that leverages approximate computing techniques into XAI algorithms, including integrated gradients, model distillation, and Shapley analysis. XAIedge translates these algorithms into approximate matrix computations and exploits the synergy between convolution, Fourier transform, and approximate computing paradigms. This approach enables efficient hardware acceleration on TPU-based edge devices, facilitating faster real-time outcome interpretations. Our comprehensive evaluation demonstrates that XAIedge achieves a $2\times$ improvement in energy efficiency compared to existing accurate XAI hardware acceleration techniques while maintaining comparable accuracy. These results highlight the potential of XAIedge to significantly advance the deployment of explainable AI in energy-constrained real-time applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google