Recurrent Hypernetworks are Surprisingly Strong in Meta-RL

要約

深層強化学習 (RL) は、サンプルの効率が悪いため、導入が非現実的であることが知られています。
Meta-RL は、関連するタスクの分布がメタトレーニングに利用できる場合に、少数ショット学習を実行することを学習することで、このサンプルの非効率性に直接対処します。
多くの特殊なメタ RL 手法が提案されていますが、最近の研究では、リカレント ネットワークなどの既製の逐次モデルと組み合わせたエンドツーエンド学習が、驚くほど強力なベースラインであることが示唆されています。
しかし、そのような主張は、特に反対のことを立証した先行研究に直面して、支持証拠が限られているために物議を醸している。
本稿では実証調査を行った。
同様に、リカレント ネットワークが強力なパフォーマンスを達成できることもわかりましたが、ハイパーネットワークの可能性を最大化するにはハイパーネットワークの使用が不可欠であることも実証しました。
驚くべきことに、ハイパーネットワークと組み合わせると、既存の特殊な手法よりもはるかに単純な反復ベースラインが、評価されたすべての手法の中で最も強力なパフォーマンスを実際に達成します。
コードは https://github.com/jacoaba/hyper で提供されています。

要約(オリジナル)

Deep reinforcement learning (RL) is notoriously impractical to deploy due to sample inefficiency. Meta-RL directly addresses this sample inefficiency by learning to perform few-shot learning when a distribution of related tasks is available for meta-training. While many specialized meta-RL methods have been proposed, recent work suggests that end-to-end learning in conjunction with an off-the-shelf sequential model, such as a recurrent network, is a surprisingly strong baseline. However, such claims have been controversial due to limited supporting evidence, particularly in the face of prior work establishing precisely the opposite. In this paper, we conduct an empirical investigation. While we likewise find that a recurrent network can achieve strong performance, we demonstrate that the use of hypernetworks is crucial to maximizing their potential. Surprisingly, when combined with hypernetworks, the recurrent baselines that are far simpler than existing specialized methods actually achieve the strongest performance of all methods evaluated. We provide code at https://github.com/jacooba/hyper.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google