ad-trait: A Fast and Flexible Automatic Differentiation Library in Rust

要約

Rustプログラミング言語は、ロボット工学と関連フィールドに魅力的な選択肢であり、非常に効率的でメモリセーフコードを提供します。
ただし、これらのドメインでの幅広い採用を妨げる主要な制限は、機能評価中に体系的にデータを蓄積することにより便利なデリバティブ計算を可能にする高品質で十分にサポートされた自動分化（AD）がないことです。
この作業では、新しいRustベースの広告ライブラリであるAd-The Tratを紹介します。
私たちの実装は、Rustの標準的な浮動小数点タイプを過負荷にし、デリバティブ計算に必要な情報を効率的に蓄積できる柔軟な特性を備えています。
ライブラリは、フォワードモードとリバースモードの両方の自動差別化をサポートしているため、両方のオプションを提供するために最初のオペレーターオーバーロード広告実装で錆びています。
さらに、AD-TRAITは、効率を高めるために、単一命令、フォワードモードADの複数のデータ加速などのパフォーマンス指向の機能を活用します。
ベンチマーク実験を通じて、私たちのライブラリは、デリバティブを計算するためのいくつかのプログラミング言語にわたる最速の広告実装の1つであることを示しています。
さらに、錆びたロボットライブラリにはすでに統合されており、迅速な最適化手順を促進する能力を紹介しています。
私たちは、私たちの仕事の限界とより広い意味についての議論で締めくくります。

要約(オリジナル)

The Rust programming language is an attractive choice for robotics and related fields, offering highly efficient and memory-safe code. However, a key limitation preventing its broader adoption in these domains is the lack of high-quality, well-supported Automatic Differentiation (AD)-a fundamental technique that enables convenient derivative computation by systematically accumulating data during function evaluation. In this work, we introduce ad-trait, a new Rust-based AD library. Our implementation overloads Rust’s standard floating-point type with a flexible trait that can efficiently accumulate necessary information for derivative computation. The library supports both forward-mode and reverse-mode automatic differentiation, making it the first operator-overloading AD implementation in Rust to offer both options. Additionally, ad-trait leverages Rust’s performance-oriented features, such as Single Instruction, Multiple Data acceleration in forward-mode AD, to enhance efficiency. Through benchmarking experiments, we show that our library is among the fastest AD implementations across several programming languages for computing derivatives. Moreover, it is already integrated into a Rust-based robotics library, where we showcase its ability to facilitate fast optimization procedures. We conclude with a discussion of the limitations and broader implications of our work.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google