Using the IBM Analog In-Memory Hardware Acceleration Kit for Neural Network Training and Inference

要約

アナログ インメモリ コンピューティング (AIMC) は、ディープ ニューラル ネットワーク (DNN) の推論とトレーニングの遅延とエネルギー消費を削減するための有望なアプローチです。
ただし、ノイズが多く非線形なデバイス特性と、AIMC チップの周辺回路が理想的ではないため、デジタル コンピューティングと同等の精度を達成するには、DNN をそのようなハードウェアに展開するように適応させる必要があります。
このチュートリアルでは、https://github.com/IBM/aihwkit で無料で入手できる、最近リリースされた IBM アナログ ハードウェア アクセラレーション キット (AIHWKit) を使用して、そのような適応をどのように達成し、評価できるかについて詳しく説明します。
AIHWKit は、AIMC を使用して DNN の推論とトレーニングをシミュレートする Python ライブラリです。
AIHWKit の設計、機能、推論とトレーニングを適切に実行するためのベスト プラクティスについて詳しく説明します。
また、フルマネージドのクラウド設定で AIHWKit シミュレーション プラットフォームを使用する利点を提供する Analog AI Cloud Composer の概要も紹介します。
最後に、ユーザーが独自のニーズに合わせて AIHWKit を拡張およびカスタマイズする方法の例を示します。
このチュートリアルには、https://github.com/IBM/aihwkit/tree/master/notebooks/tutorial からダウンロードできる AIHWKit を使用して実行できる包括的な Jupyter Notebook コード例が付属しています。

要約(オリジナル)

Analog In-Memory Computing (AIMC) is a promising approach to reduce the latency and energy consumption of Deep Neural Network (DNN) inference and training. However, the noisy and non-linear device characteristics, and the non-ideal peripheral circuitry in AIMC chips, require adapting DNNs to be deployed on such hardware to achieve equivalent accuracy to digital computing. In this tutorial, we provide a deep dive into how such adaptations can be achieved and evaluated using the recently released IBM Analog Hardware Acceleration Kit (AIHWKit), freely available at https://github.com/IBM/aihwkit. The AIHWKit is a Python library that simulates inference and training of DNNs using AIMC. We present an in-depth description of the AIHWKit design, functionality, and best practices to properly perform inference and training. We also present an overview of the Analog AI Cloud Composer, that provides the benefits of using the AIHWKit simulation platform in a fully managed cloud setting. Finally, we show examples on how users can expand and customize AIHWKit for their own needs. This tutorial is accompanied by comprehensive Jupyter Notebook code examples that can be run using AIHWKit, which can be downloaded from https://github.com/IBM/aihwkit/tree/master/notebooks/tutorial.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google