An Analytic Layer-wise Deep Learning Framework with Applications to Robotics

要約

ディープラーニング (DL) は多くのアプリケーションで大きな成功を収めていますが、理論的な観点からはあまり十分に分析されていません。
ブラックボックス DL モデルの説明できない成功は、科学者の間で疑問を引き起こし、説明可能な人工知能 (XAI) 分野の出現を促進しました。
ロボット工学では、ロボットは物理世界と安全に対話する必要があるアクティブなエージェントであるため、DL アルゴリズムを予測可能かつ安定した方法で展開することが特に重要です。
この論文では、回帰問題と分類問題の両方に適用できる、完全接続ニューラル ネットワーク用の分析的深層学習フレームワークを紹介します。
回帰および分類の問題の例には、オンライン ロボット制御やロボット ビジョンなどがあります。
学習システムの収束を分析できるように、2 つの層ごとの学習アルゴリズムを紹介します。
まず、層ごとの深層学習の問題を理解するために、各層の収束分析を備えた多層ネットワーク用の逆層ごとの学習アルゴリズムを示します。
第 2 に、より高い精度を達成するために、単一の隠れ層ネットワークを使用して深いネットワークが段階的に構築される順方向学習アルゴリズムが開発されています。
漸進的学習法は、収束の観点から重みを微調整するために使用できることが示されています。
提案されたフレームワークの有効性は、MNIST および CIFAR-10 データセットを使用した古典的なベンチマーク認識タスクに基づいて示されており、その結果は、パフォーマンスと説明可能性の間の良好なバランスを示しています。
その後、提案された方法はロボットの運動学のオンライン学習に適用され、未知のモデルによる UR5e ロボットの運動学制御に関する実験結果が提示されます。

要約(オリジナル)

Deep learning (DL) has achieved great success in many applications, but it has been less well analyzed from the theoretical perspective. The unexplainable success of black-box DL models has raised questions among scientists and promoted the emergence of the field of explainable artificial intelligence (XAI). In robotics, it is particularly important to deploy DL algorithms in a predictable and stable manner as robots are active agents that need to interact safely with the physical world. This paper presents an analytic deep learning framework for fully connected neural networks, which can be applied for both regression problems and classification problems. Examples for regression and classification problems include online robot control and robot vision. We present two layer-wise learning algorithms such that the convergence of the learning systems can be analyzed. Firstly, an inverse layer-wise learning algorithm for multilayer networks with convergence analysis for each layer is presented to understand the problems of layer-wise deep learning. Secondly, a forward progressive learning algorithm where the deep networks are built progressively by using single hidden layer networks is developed to achieve better accuracy. It is shown that the progressive learning method can be used for fine-tuning of weights from convergence point of view. The effectiveness of the proposed framework is illustrated based on classical benchmark recognition tasks using the MNIST and CIFAR-10 datasets and the results show a good balance between performance and explainability. The proposed method is subsequently applied for online learning of robot kinematics and experimental results on kinematic control of UR5e robot with unknown model are presented.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google