Geometric Regularity with Robot Intrinsic Symmetry in Reinforcement Learning

要約

データの対称性を活用する幾何学的規則性は、CNN、RNN、GNN、Transformer などの深層学習アーキテクチャにうまく組み込まれています。
この概念は、高次元データから学習する際の次元性の呪いに対処するためにロボット工学に広く適用されていますが、ロボット構造に固有の鏡映対称および回転対称については十分に調査されていません。
協調的なマルチエージェント強化学習からインスピレーションを得て、この幾何学的規則性を明示的に捉える深層学習アルゴリズムの新しいネットワーク構造を導入します。
さらに、マルチエージェント強化学習における幾何事前分布とパラメータ共有の概念との関係を調査します。
さまざまな挑戦的な連続制御タスクで実施された実験を通じて、提案された幾何学的規則性がロボットの学習能力を向上させる大きな可能性を実証しました。

要約(オリジナル)

Geometric regularity, which leverages data symmetry, has been successfully incorporated into deep learning architectures such as CNNs, RNNs, GNNs, and Transformers. While this concept has been widely applied in robotics to address the curse of dimensionality when learning from high-dimensional data, the inherent reflectional and rotational symmetry of robot structures has not been adequately explored. Drawing inspiration from cooperative multi-agent reinforcement learning, we introduce novel network structures for deep learning algorithms that explicitly capture this geometric regularity. Moreover, we investigate the relationship between the geometric prior and the concept of Parameter Sharing in multi-agent reinforcement learning. Through experiments conducted on various challenging continuous control tasks, we demonstrate the significant potential of the proposed geometric regularity in enhancing robot learning capabilities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google