Navigating the Unknown: Uncertainty-Aware Compute-in-Memory Autonomy of Edge Robotics

要約

この論文では、昆虫スケールのドローンにおけるエネルギー効率と不確実性を考慮した姿勢推定という困難な問題に取り組んでいます。これは、狭い空間での監視などのタスクや、スマートホームで非侵入型の空間インテリジェンスを実現するために重要です。
小型ドローンは、照明や人間の動きなどの要因が予測精度に影響を与える非常に動的な環境で動作するため、環境の変化を考慮し、予測だけでなく予測の信頼性も表現できる不確実性を考慮した予測アルゴリズムを導入することが重要です。
当社は、エッジでのディープ ラーニングの高速化にとって極めて重要なテクノロジーとなっているコンピューティング イン メモリ (CIM) を使用して、これらの課題の両方に対処します。
従来の CIM 手法はエネルギー効率の高い深層学習に有望ですが、エッジで不確実性を考慮した予測の堅牢性を実現するために、一連の新しい手法を紹介します。 まず、CIM ベースのベイジアン フィルタリング手法の独自の高速化について説明します。
CMOS インバータのガウス状のスイッチング電流と、極端な並列処理および極端なエネルギー効率で動作するカーネル機能の共同設計が行われます。
次に、確率的処理によるディープ ラーニング モデルの変分推論の CIM ベースの高速化について説明します。同時に、作業負荷を大幅に最小限に抑えるための計算再利用戦略を備えたメソッドの反復計算を展開します。
全体として、私たちの共同設計手法は、不確実性を認識したアルゴリズムの処理効率を桁違いに向上させる CIM の可能性を実証しており、それによってエッジ ロボティクスが非常に厳しいエリア/電力リソース内で高度な予測フレームワークの堅牢性にアクセスできるようになります。

要約(オリジナル)

This paper addresses the challenging problem of energy-efficient and uncertainty-aware pose estimation in insect-scale drones, which is crucial for tasks such as surveillance in constricted spaces and for enabling non-intrusive spatial intelligence in smart homes. Since tiny drones operate in highly dynamic environments, where factors like lighting and human movement impact their predictive accuracy, it is crucial to deploy uncertainty-aware prediction algorithms that can account for environmental variations and express not only the prediction but also confidence in the prediction. We address both of these challenges with Compute-in-Memory (CIM) which has become a pivotal technology for deep learning acceleration at the edge. While traditional CIM techniques are promising for energy-efficient deep learning, to bring in the robustness of uncertainty-aware predictions at the edge, we introduce a suite of novel techniques: First, we discuss CIM-based acceleration of Bayesian filtering methods uniquely by leveraging the Gaussian-like switching current of CMOS inverters along with co-design of kernel functions to operate with extreme parallelism and with extreme energy efficiency. Secondly, we discuss the CIM-based acceleration of variational inference of deep learning models through probabilistic processing while unfolding iterative computations of the method with a compute reuse strategy to significantly minimize the workload. Overall, our co-design methodologies demonstrate the potential of CIM to improve the processing efficiency of uncertainty-aware algorithms by orders of magnitude, thereby enabling edge robotics to access the robustness of sophisticated prediction frameworks within their extremely stringent area/power resources.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google