Theseus: A Library for Differentiable Nonlinear Optimization

要約

Theseus は、PyTorch 上に構築された微分可能な非線形最小二乗法 (DNLS) 最適化のための効率的なアプリケーションに依存しないオープン ソース ライブラリであり、ロボティクスとビジョンにおけるエンドツーエンドの構造化学習のための共通フレームワークを提供します。
既存の DNLS 実装はアプリケーション固有であり、効率にとって重要な多くの要素が常に組み込まれているわけではありません。
2 次オプティマイザー、標準コスト関数、リー群など、同じ基礎となる微分可能なコンポーネントを使用して構築されたいくつかのアプリケーション例で示すように、テセウスはアプリケーションに依存しません。
効率を高めるために、Theseus には、スパース ソルバー、自動ベクトル化、バッチ処理、GPU アクセラレーション、および暗黙的な微分と直接損失の最小化による勾配計算のサポートが組み込まれています。
一連のアプリケーションで広範なパフォーマンス評価を行い、これらの機能を組み込むと、効率が大幅に向上し、スケーラビリティが向上することが実証されています。
プロジェクトページ：https://sites.google.com/view/theseus-ai

要約(オリジナル)

We present Theseus, an efficient application-agnostic open source library for differentiable nonlinear least squares (DNLS) optimization built on PyTorch, providing a common framework for end-to-end structured learning in robotics and vision. Existing DNLS implementations are application specific and do not always incorporate many ingredients important for efficiency. Theseus is application-agnostic, as we illustrate with several example applications that are built using the same underlying differentiable components, such as second-order optimizers, standard costs functions, and Lie groups. For efficiency, Theseus incorporates support for sparse solvers, automatic vectorization, batching, GPU acceleration, and gradient computation with implicit differentiation and direct loss minimization. We do extensive performance evaluation in a set of applications, demonstrating significant efficiency gains and better scalability when these features are incorporated. Project page: https://sites.google.com/view/theseus-ai

arxiv情報

提供元, 利用サービス

arxiv.jp, Google