Control-oriented Clustering of Visual Latent Representation

投稿日: 2024年10月10日 作成者: jarxiv

要約

私たちは、動作のクローン作成から学習した画像ベースの制御パイプラインにおける視覚表現空間 (ビジョン エンコーダーからアクション デコーダーまでの情報チャネル) の幾何学構造の研究を開始します。
画像分類におけるニューラル崩壊 (NC) 現象に触発されて、同様のクラスタリングの法則が視覚表現空間にも現れるかどうかを調査します。
画像ベースの制御は、明示的に定義されたクラスを持たない回帰タスクであるため、パズルの中心的なピースは、そのような法則が存在する場合、どの暗黙のクラスに従って視覚特徴がクラスター化されるかを決定することにあります。
画像ベースの平面プッシュに焦点を当て、制御タスクにおける視覚表現の最も重要な役割は、アクション デコーダーに目標を伝えることであると仮定します。
次に、エキスパート デモンストレーションのトレーニング サンプルを、(a) 入力におけるオブジェクトとターゲットの間の相対姿勢、または (b) 出力におけるエキスパート アクションによって引き起こされるオブジェクトの相対姿勢に基づいて、8 つの「制御指向」クラスに分類します。
ここで、1 つのクラスは 1 つの相対姿勢オルサント (REPO) に対応します。
アーキテクチャの 4 つの異なるインスタンス化にわたって、8 つの REPO に従って、視覚表現空間における制御指向のクラスタリングの一般的な出現を報告します。
経験的な観察を超えて、限られた専門家のデモンストレーションでポリシーをトレーニングする際に、テスト時のパフォーマンスを向上させるアルゴリズム ツールとしてこのようなクラスタリングの法則を活用できることを示します。
特に、視覚特徴の制御指向のクラスタリングを促進するために、正則化として NC を使用してビジョン エンコーダを事前トレーニングします。
驚くべきことに、このような NC で事前トレーニングされたビジョン エンコーダは、アクション デコーダとエンドツーエンドで微調整されると、低データ領域でのテスト時間のパフォーマンスが 10% ～ 35% 向上します。
現実世界のビジョンベースの平面プッシュ実験により、制御指向の視覚表現の事前トレーニングの驚くべき利点が確認されました。

要約(オリジナル)

We initiate a study of the geometry of the visual representation space — the information channel from the vision encoder to the action decoder — in an image-based control pipeline learned from behavior cloning. Inspired by the phenomenon of neural collapse (NC) in image classification, we investigate whether a similar law of clustering emerges in the visual representation space. Since image-based control is a regression task without explicitly defined classes, the central piece of the puzzle lies in determining according to what implicit classes the visual features cluster, if such a law exists. Focusing on image-based planar pushing, we posit the most important role of the visual representation in a control task is to convey a goal to the action decoder. We then classify training samples of expert demonstrations into eight ‘control-oriented’ classes based on (a) the relative pose between the object and the target in the input or (b) the relative pose of the object induced by expert actions in the output, where one class corresponds to one relative pose orthant (REPO). Across four different instantiations of architecture, we report the prevalent emergence of control-oriented clustering in the visual representation space according to the eight REPOs. Beyond empirical observation, we show such a law of clustering can be leveraged as an algorithmic tool to improve test-time performance when training a policy with limited expert demonstrations. Particularly, we pretrain the vision encoder using NC as a regularization to encourage control-oriented clustering of the visual features. Surprisingly, such an NC-pretrained vision encoder, when finetuned end-to-end with the action decoder, boosts the test-time performance by 10% to 35% in the low-data regime. Real-world vision-based planar pushing experiments confirmed the surprising advantage of control-oriented visual representation pretraining.

arxiv情報

著者 Han Qi,Haocheng Yin,Heng Yang
発行日 2024-10-08 02:38:36+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CV, cs.LG, cs.RO | コメントする

KISS-Matcher: Fast and Robust Point Cloud Registration Revisited

投稿日: 2024年10月8日 作成者: jarxiv

要約

グローバル点群登録システムはあらゆる面で大幅に進歩しましたが、多くの研究は、特徴抽出、グラフ理論による枝刈り、ポーズ ソルバーなどの特定のコンポーネントに焦点を当ててきました。
この論文では、位置合わせ問題を総合的に捉え、\textit{KISS-Matcher} と呼ばれる点群位置合わせ用のオープンソースで多用途な C++ ライブラリを開発します。
KISS-Matcher は、従来の高速点特徴ヒストグラム (FPFH) を改善する新しい特徴検出器 \textit{Faster-PFH} を組み合わせています。
さらに、$k$-core ベースのグラフ理論枝刈りを採用して、外れ値の対応を拒否する時間の複雑さを軽減します。
最後に、これらのモジュールを完全でユーザーフレンドリーですぐに使用できるパイプラインに結合します。
広範な実験によって検証されたように、KISS-Matcher は優れたスケーラビリティと幅広い適用性を備えており、精度を維持しながら、外れ値に強い最先端の登録パイプラインと比較して大幅な高速化を実現します。
私たちのコードは \href{https://github.com/MIT-SPARK/KISS-Matcher}{\texttt{https://github.com/MIT-SPARK/KISS-Matcher}} で入手できます。

要約(オリジナル)

While global point cloud registration systems have advanced significantly in all aspects, many studies have focused on specific components, such as feature extraction, graph-theoretic pruning, or pose solvers. In this paper, we take a holistic view on the registration problem and develop an open-source and versatile C++ library for point cloud registration, called \textit{KISS-Matcher}. KISS-Matcher combines a novel feature detector, \textit{Faster-PFH}, that improves over the classical fast point feature histogram (FPFH). Moreover, it adopts a $k$-core-based graph-theoretic pruning to reduce the time complexity of rejecting outlier correspondences. Finally, it combines these modules in a complete, user-friendly, and ready-to-use pipeline. As verified by extensive experiments, KISS-Matcher has superior scalability and broad applicability, achieving a substantial speed-up compared to state-of-the-art outlier-robust registration pipelines while preserving accuracy. Our code will be available at \href{https://github.com/MIT-SPARK/KISS-Matcher}{\texttt{https://github.com/MIT-SPARK/KISS-Matcher}}.

arxiv情報

著者 Hyungtae Lim,Daebeom Kim,Gunhee Shin,Jingnan Shi,Ignacio Vizzo,Hyun Myung,Jaesik Park,Luca Carlone
発行日 2024-10-06 21:08:01+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CV, cs.RO | コメントする

Unpacking Failure Modes of Generative Policies: Runtime Monitoring of Consistency and Progress

投稿日: 2024年10月8日 作成者: jarxiv

要約

模倣学習によってトレーニングされたロボットの行動ポリシーは、トレーニング データから逸脱した条件下では失敗する傾向があります。
したがって、スケーラブルな展開を促進するには、テスト時に学習したポリシーを監視し、失敗の早期警告を提供するアルゴリズムが必要です。
私たちは、障害の検出を 2 つの相補的なカテゴリに分割する実行時監視フレームワークである Sentinel を提案します。1) 一時的なアクションの一貫性の統計的尺度を使用して検出する、異常な障害。2) ビジョン言語モデル (VLM) を使用する、タスク進行の障害。
) ポリシーがタスクを解決しないアクションを自信を持って一貫して実行することを検出します。
私たちのアプローチには 2 つの重要な強みがあります。
まず、学習されたポリシーは多様な障害モードを示すため、補完的な検出器を組み合わせることで、障害検出の精度が大幅に向上します。
第 2 に、統計的時間アクション一貫性測定を使用すると、マルチモーダルな生成ポリシーが無視できる計算コストで異常な動作を示した場合に、迅速に検出できるようになります。
対照的に、時間依存性の低い障害モードを検出するためにのみ VLM を使用します。
私たちは、シミュレーションと現実世界の両方におけるロボットによるモバイル操作ドメインで訓練された普及政策のコンテキストでアプローチを実証します。
時間的整合性検出と VLM ランタイム監視を統合することにより、Sentinel は 2 つの検出器のいずれかを単独で使用する場合に比べて 18% 多くの障害を検出し、ベースラインを大幅に上回っています。このため、補完的な障害カテゴリに特殊な検出器を割り当てることの重要性が強調されています。
定性的結果は https://sites.google.com/stanford.edu/sentinel で入手できます。

要約(オリジナル)

Robot behavior policies trained via imitation learning are prone to failure under conditions that deviate from their training data. Thus, algorithms that monitor learned policies at test time and provide early warnings of failure are necessary to facilitate scalable deployment. We propose Sentinel, a runtime monitoring framework that splits the detection of failures into two complementary categories: 1) Erratic failures, which we detect using statistical measures of temporal action consistency, and 2) task progression failures, where we use Vision Language Models (VLMs) to detect when the policy confidently and consistently takes actions that do not solve the task. Our approach has two key strengths. First, because learned policies exhibit diverse failure modes, combining complementary detectors leads to significantly higher accuracy at failure detection. Second, using a statistical temporal action consistency measure ensures that we quickly detect when multimodal, generative policies exhibit erratic behavior at negligible computational cost. In contrast, we only use VLMs to detect failure modes that are less time-sensitive. We demonstrate our approach in the context of diffusion policies trained on robotic mobile manipulation domains in both simulation and the real world. By unifying temporal consistency detection and VLM runtime monitoring, Sentinel detects 18% more failures than using either of the two detectors alone and significantly outperforms baselines, thus highlighting the importance of assigning specialized detectors to complementary categories of failure. Qualitative results are made available at https://sites.google.com/stanford.edu/sentinel.

arxiv情報

著者 Christopher Agia,Rohan Sinha,Jingyun Yang,Zi-ang Cao,Rika Antonova,Marco Pavone,Jeannette Bohg
発行日 2024-10-06 22:13:30+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.RO, I.2.10 | コメントする

Mode-GS: Monocular Depth Guided Anchored 3D Gaussian Splatting for Robust Ground-View Scene Rendering

投稿日: 2024年10月8日 作成者: jarxiv

要約

地上ロボットの軌道データセット用の新しいビュー レンダリング アルゴリズム Mode-GS を紹介します。
私たちのアプローチは、既存の 3D ガウス スプラッティング アルゴリズムの制限を克服するように設計されたアンカー ガウス スプラットの使用に基づいています。
従来のニューラル レンダリング手法では、シーンの複雑さと多視点観察が不十分であるため、深刻なスプラット ドリフトが発生し、地上ロボット データセットの真のジオメトリ上でスプラットを修正できない可能性があります。
私たちの方法は、単眼の深度からピクセルに位置合わせされたアンカーを統合し、残差形式のガウス デコーダを使用してこれらのアンカーの周囲にガウス スプラットを生成します。
単眼深度の固有のスケール曖昧さに対処するために、ビューごとの深度スケールでアンカーをパラメータ化し、オンライン スケール キャリブレーションにスケール一貫性のある深度損失を採用します。
私たちの方法により、PSNR、SSIM、LPIPS メトリクスに基づいて、自由な軌道パターンを持つ地上シーンでのレンダリング パフォーマンスが向上し、R3LIVE オドメトリ データセットと戦車と寺院のデータセットで最先端のレンダリング パフォーマンスが実現します。

要約(オリジナル)

We present a novel-view rendering algorithm, Mode-GS, for ground-robot trajectory datasets. Our approach is based on using anchored Gaussian splats, which are designed to overcome the limitations of existing 3D Gaussian splatting algorithms. Prior neural rendering methods suffer from severe splat drift due to scene complexity and insufficient multi-view observation, and can fail to fix splats on the true geometry in ground-robot datasets. Our method integrates pixel-aligned anchors from monocular depths and generates Gaussian splats around these anchors using residual-form Gaussian decoders. To address the inherent scale ambiguity of monocular depth, we parameterize anchors with per-view depth-scales and employ scale-consistent depth loss for online scale calibration. Our method results in improved rendering performance, based on PSNR, SSIM, and LPIPS metrics, in ground scenes with free trajectory patterns, and achieves state-of-the-art rendering performance on the R3LIVE odometry dataset and the Tanks and Temples dataset.

arxiv情報

著者 Yonghan Lee,Jaehoon Choi,Dongki Jung,Jaeseong Yun,Soohyun Ryu,Dinesh Manocha,Suyong Yeon
発行日 2024-10-06 23:01:57+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CV, cs.RO | コメントする

A Universal Formulation for Path-Parametric Planning and Control

投稿日: 2024年10月8日 作成者: jarxiv

要約

この研究では、パスパラメトリックの計画と制御のための統一フレームワークを提示します。
この定式化は、従来のパスフォローイングから最新のコンタリングまたは進歩を最大化するモデルの予測制御と強化学習に至るまで、パスパラメトリック手法の全範囲を単一のフレームワークの下で標準化するため、普遍的です。
この普遍性の基礎となる要素は 2 つあります。第 1 に、特異点のない、滑らかで微分可能な移動フレームを計算できるコンパクトで効率的な手法を提示します。
第 2 に、パラメトリック速度や移動フレームに関する事前の仮定なしに、任意の曲線に適用できるデカルト座標の空間パス パラメータ化を導出します。これは、前述のパス パラメータ化方法と完全に相互作用します。
これら 2 つの要素を組み合わせることで、文献にある既存のパスパラメトリック手法を統合する計画および制御フレームワークが実現します。
これらすべてのアプローチを統合することを目指して、提示されたコンテンツを実装するソフトウェア ライブラリである PACOR をオープンソースにし、それによってパスパラメトリックな計画と制御方法を定式化するための自己完結型ツールキットを提供します。

要約(オリジナル)

This work presents a unified framework for path-parametric planning and control. This formulation is universal as it standardizes the entire spectrum of path-parametric techniques — from traditional path following to more recent contouring or progress-maximizing Model Predictive Control and Reinforcement Learning — under a single framework. The ingredients underlying this universality are twofold: First, we present a compact and efficient technique capable of computing singularity-free, smooth and differentiable moving frames. Second, we derive a spatial path parameterization of the Cartesian coordinates applicable to any arbitrary curve without prior assumptions on its parametric speed or moving frame, and that perfectly interplays with the aforementioned path parameterization method. The combination of these two ingredients leads to a planning and control framework that brings togehter existing path-parametric techniques in literature. Aiming to unify all these approaches, we open source PACOR, a software library that implements the presented content, thereby providing a self-contained toolkit for the formulation of path-parametric planning and control methods.

arxiv情報

著者 Jon Arrizabalaga,Markus Ryll
発行日 2024-10-07 00:26:29+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.RO, cs.SY, eess.SY | コメントする

Next Best Sense: Guiding Vision and Touch with FisherRF for 3D Gaussian Splatting

投稿日: 2024年10月8日 作成者: jarxiv

要約

3D ガウス スプラッティング (3DGS) を使用したロボット マニピュレータのアクティブな次善のビューとタッチ選択のためのフレームワークを提案します。
3DGS は、フォトリアリスティックかつ幾何学的に正確な方法でシーンを表現できるため、ロボット工学にとって有用な明示的な 3D シーン表現として浮上しています。
ただし、効率要件を考慮してビュー数が制限されている現実世界のオンライン ロボット シーンでは、ビューが重複して冗長であることが多いため、3DGS のランダムなビュー選択は非現実的になります。
私たちは、エンドツーエンドのオンライン トレーニングとアクティブ ビュー選択パイプラインを提案することで、この問題に対処します。これにより、少数ビューのロボット設定で 3DGS のパフォーマンスが向上します。
まず、セグメント エニシング モデル 2 (SAM2) を使用した新しいセマンティック深度アライメント手法を使用して、少数ショット 3DGS のパフォーマンスを向上させます。SAM2 には、ピアソン深度と表面法線損失を追加して、現実世界のシーンの色と深度の再構成を改善します。
次に、3DGS の次に最適なビュー選択方法である FisherRF を拡張し、深度の不確実性に基づいてビューとタッチ ポーズを選択します。
ライブ 3DGS トレーニング中に、実際のロボット システムでオンライン ビュー選択を実行します。
私たちはショット数の少ない GS シーンの改善を推進し、深度ベースの FisherRF をそれらのシーンに拡張し、困難なロボット シーンの定性的および量的改善の両方を実証します。
詳細については、https://armlabstanford.github.io/next-best-sense のプロジェクト ページをご覧ください。

要約(オリジナル)

We propose a framework for active next best view and touch selection for robotic manipulators using 3D Gaussian Splatting (3DGS). 3DGS is emerging as a useful explicit 3D scene representation for robotics, as it has the ability to represent scenes in a both photorealistic and geometrically accurate manner. However, in real-world, online robotic scenes where the number of views is limited given efficiency requirements, random view selection for 3DGS becomes impractical as views are often overlapping and redundant. We address this issue by proposing an end-to-end online training and active view selection pipeline, which enhances the performance of 3DGS in few-view robotics settings. We first elevate the performance of few-shot 3DGS with a novel semantic depth alignment method using Segment Anything Model 2 (SAM2) that we supplement with Pearson depth and surface normal loss to improve color and depth reconstruction of real-world scenes. We then extend FisherRF, a next-best-view selection method for 3DGS, to select views and touch poses based on depth uncertainty. We perform online view selection on a real robot system during live 3DGS training. We motivate our improvements to few-shot GS scenes, and extend depth-based FisherRF to them, where we demonstrate both qualitative and quantitative improvements on challenging robot scenes. For more information, please see our project page at https://armlabstanford.github.io/next-best-sense.

arxiv情報

著者 Matthew Strong,Boshu Lei,Aiden Swann,Wen Jiang,Kostas Daniilidis,Monroe Kennedy III
発行日 2024-10-07 01:24:39+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CV, cs.RO | コメントする

Adaptive Step Duration for Precise Foot Placement: Achieving Robust Bipedal Locomotion on Terrains with Restricted Footholds

投稿日: 2024年10月8日 作成者: jarxiv

要約

二足歩行のための従来のワンステッププレビュー計画アルゴリズムは、飛び石など足場が制限された地形を歩くときに実行可能な歩行を生成するのに苦労します。
このような制限を克服するために、本稿では、歩行ロボットの発散運動成分 (DCM) のステップごとの離散進化に基づく、新しいマルチステップ プレビュー足配置計画アルゴリズムを紹介します。
私たちが提案するアプローチは、制約の下で足を最適に配置するためにステップ持続時間と足のスイング軌道を適応的に変更することで、ロボットの長期的な安定性を高め、実行可能な足場に厳しい制約がある環境をナビゲートする能力を大幅に向上させます。
複雑な飛び石構成と外部摂動を使用したさまざまなシミュレーション シナリオを通じて、その有効性を実証します。
これらのテストでは、外乱があっても足場が制限された地形を移動する性能が向上していることが実証されました。

要約(オリジナル)

Traditional one-step preview planning algorithms for bipedal locomotion struggle to generate viable gaits when walking across terrains with restricted footholds, such as stepping stones. To overcome such limitations, this paper introduces a novel multi-step preview foot placement planning algorithm based on the step-to-step discrete evolution of the Divergent Component of Motion (DCM) of walking robots. Our proposed approach adaptively changes the step duration and the swing foot trajectory for optimal foot placement under constraints, thereby enhancing the long-term stability of the robot and significantly improving its ability to navigate environments with tight constraints on viable footholds. We demonstrate its effectiveness through various simulation scenarios with complex stepping-stone configurations and external perturbations. These tests underscore its improved performance for navigating foothold-restricted terrains, even with external disturbances.

arxiv情報

著者 Zhaoyang Xiang,Victor Paredes,Guillermo A. Castillo,Ayonga Hereid
発行日 2024-10-07 01:31:31+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.RO, cs.SY, eess.SY | コメントする

Real-World Cooking Robot System from Recipes Based on Food State Recognition Using Foundation Models and PDDL

投稿日: 2024年10月8日 作成者: jarxiv

要約

ロボットに期待される業務の一つとして調理動作への需要が高まっているが、現実世界におけるロボットによる新たなレシピ記述に基づく一連の調理動作はまだ実現されていない。
本研究では、大規模言語モデル（LLM）を用いた現実世界で実行可能なロボット調理行動計画とPDDL記述の古典的計画、およびVisionを用いた少数のデータからの食材状態認識学習を統合したロボットシステムを提案する。
言語モデル (VLM)。
双腕車輪型ロボットPR2が実世界環境下でアレンジされた新レシピによる調理を実行する実験に成功し、提案システムの有効性を確認した。

要約(オリジナル)

Although there is a growing demand for cooking behaviours as one of the expected tasks for robots, a series of cooking behaviours based on new recipe descriptions by robots in the real world has not yet been realised. In this study, we propose a robot system that integrates real-world executable robot cooking behaviour planning using the Large Language Model (LLM) and classical planning of PDDL descriptions, and food ingredient state recognition learning from a small number of data using the Vision-Language model (VLM). We succeeded in experiments in which PR2, a dual-armed wheeled robot, performed cooking from arranged new recipes in a real-world environment, and confirmed the effectiveness of the proposed system.

arxiv情報

著者 Naoaki Kanazawa,Kento Kawaharazuka,Yoshiki Obinata,Kei Okada,Masayuki Inaba
発行日 2024-10-07 01:39:25+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.RO | コメントする

ViewActive: Active viewpoint optimization from a single image

投稿日: 2024年10月8日 作成者: jarxiv

要約

物体を観察するとき、人間は空間視覚化と精神回転能力の恩恵を受けて、現在の観察に基づいて潜在的な最適な視点を思い描くことができます。
この機能は、ロボットが動作中に効率的かつ堅牢なシーン認識を実現できるようにするために非常に重要です。最適な視点は、2D 画像でシーンを正確に表現するために不可欠で有益な機能を提供し、それによって下流のタスクを強化するためです。
この人間のようなアクティブな視点最適化機能をロボットに与えるために、現在の 2D 画像入力のみに基づいて視点最適化のガイダンスを提供する、アスペクト グラフからインスピレーションを得た最新の機械学習アプローチである ViewActive を提案します。
具体的には、アスペクト グラフに似た視点品質分布のコンパクトで一貫した表現である 3D 視点品質フィールド (VQF) を導入します。これは、自己オクルージョン率、占有を意識した表面法線エントロピー、
そして視覚的なエントロピー。
事前トレーニングされた画像エンコーダーを利用して、堅牢な視覚的および意味論的特徴を抽出し、それが 3D VQF にデコードされ、目に見えないカテゴリを含む多様なオブジェクトにわたってモデルを効果的に一般化できるようになります。
軽量の ViewActive ネットワーク (単一 GPU で 72 FPS) は、最先端の物体認識パイプラインのパフォーマンスを大幅に向上させ、ロボット アプリケーションのリアルタイムの動作計画に統合できます。
私たちのコードとデータセットは、https://github.com/jiayi-wu-umd/ViewActive から入手できます。

要約(オリジナル)

When observing objects, humans benefit from their spatial visualization and mental rotation ability to envision potential optimal viewpoints based on the current observation. This capability is crucial for enabling robots to achieve efficient and robust scene perception during operation, as optimal viewpoints provide essential and informative features for accurately representing scenes in 2D images, thereby enhancing downstream tasks. To endow robots with this human-like active viewpoint optimization capability, we propose ViewActive, a modernized machine learning approach drawing inspiration from aspect graph, which provides viewpoint optimization guidance based solely on the current 2D image input. Specifically, we introduce the 3D Viewpoint Quality Field (VQF), a compact and consistent representation of viewpoint quality distribution similar to an aspect graph, composed of three general-purpose viewpoint quality metrics: self-occlusion ratio, occupancy-aware surface normal entropy, and visual entropy. We utilize pre-trained image encoders to extract robust visual and semantic features, which are then decoded into the 3D VQF, allowing our model to generalize effectively across diverse objects, including unseen categories. The lightweight ViewActive network (72 FPS on a single GPU) significantly enhances the performance of state-of-the-art object recognition pipelines and can be integrated into real-time motion planning for robotic applications. Our code and dataset are available here: https://github.com/jiayi-wu-umd/ViewActive.

arxiv情報

著者 Jiayi Wu,Xiaomin Lin,Botao He,Cornelia Fermuller,Yiannis Aloimonos
発行日 2024-10-07 02:14:43+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.RO | コメントする

Domains as Objectives: Domain-Uncertainty-Aware Policy Optimization through Explicit Multi-Domain Convex Coverage Set Learning

投稿日: 2024年10月8日 作成者: jarxiv

要約

不確実性の問題は現実世界のロボット工学の問題の特徴であり、実際のアプリケーションのタスクを成功させるためには、あらゆる制御フレームワークが不確実性の問題に対処する必要があります。
強化学習も例外ではなく、モデルの不確実性や仕様の誤りから生じる認識の不確実性は、シミュレーションと現実のギャップによってよく捉えられる課題です。
この問題に対する簡単な解決策はドメイン ランダム化 (DR) ですが、残念ながらエージェントが保守的な結果になる可能性があります。
この保守性の改善策として、リカレント ニューラル ネットワーク ベースのコントローラーとともに、ランダム化されたドメインに関する追加情報を取得するユニバーサル ポリシーの使用が代替ソリューションとして浮上しています。
不確実性を認識したユニバーサル ポリシーは、展開中のシステム識別の不確実性を考慮できる特に魅力的なソリューションを提供します。
この論文では、不確実性を考慮したポリシーを効率的に最適化するという課題が、多目的強化学習 (MORL) コンテキスト内で凸カバレッジ セット (CCS) 問題を解決するものとして根本的に再構成できることを明らかにします。
各ドメインのパフォーマンスが独立した目標として扱われる新しいマルコフ意思決定プロセス (MDP) フレームワークを導入することで、不確実性を認識したポリシーのトレーニングを MORL アプローチと統合します。
この接続により、ドメインのランダム化 (DR) に MORL アルゴリズムを適用できるようになり、より効率的なポリシーの最適化が可能になります。
これを説明するために、DR 定式化における期待と一致する線形効用関数に焦点を当て、CCS を解決するために MORL 文献から適応された一連のアルゴリズムを提案し、不確実性を認識した政策のパフォーマンスを向上させる能力を実証します。

要約(オリジナル)

The problem of uncertainty is a feature of real world robotics problems and any control framework must contend with it in order to succeed in real applications tasks. Reinforcement Learning is no different, and epistemic uncertainty arising from model uncertainty or misspecification is a challenge well captured by the sim-to-real gap. A simple solution to this issue is domain randomization (DR), which unfortunately can result in conservative agents. As a remedy to this conservativeness, the use of universal policies that take additional information about the randomized domain has risen as an alternative solution, along with recurrent neural network-based controllers. Uncertainty-aware universal policies present a particularly compelling solution able to account for system identification uncertainties during deployment. In this paper, we reveal that the challenge of efficiently optimizing uncertainty-aware policies can be fundamentally reframed as solving the convex coverage set (CCS) problem within a multi-objective reinforcement learning (MORL) context. By introducing a novel Markov decision process (MDP) framework where each domain’s performance is treated as an independent objective, we unify the training of uncertainty-aware policies with MORL approaches. This connection enables the application of MORL algorithms for domain randomization (DR), allowing for more efficient policy optimization. To illustrate this, we focus on the linear utility function, which aligns with the expectation in DR formulations, and propose a series of algorithms adapted from the MORL literature to solve the CCS, demonstrating their ability to enhance the performance of uncertainty-aware policies.

arxiv情報

著者 Wendyam Eric Lionel Ilboudo,Taisuke Kobayashi,Takamitsu Matsubara
発行日 2024-10-07 03:19:44+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.RO | コメントする