Safe Robot Learning in Assistive Devices through Neural Network Repair

要約

支援ロボット デバイスは、パーソナライゼーションとモデル化が難しいヒューマン マシン インタラクション ダイナミクスの必要性から、ニューラル ネットワーク (NN) の特に有望な応用分野です。
ただし、NN ベースの推定器とコントローラーは、以前には見られなかったデータ ポイントに対して潜在的に危険な出力を生成する可能性があります。
この論文では、元の損失関数も最適化しながら、与えられた正式な安全制約のセットを満たすように NN 制御ポリシーを更新するためのアルゴリズムを紹介します。
一連の混合整数線形制約が与えられた場合、NN 修復問題を混合整数二次計画法 (MIQP) として定義します。
大規模な実験で、下肢義足の安全なポリシーを生成する際の修復方法の有効性を示しています。

要約(オリジナル)

Assistive robotic devices are a particularly promising field of application for neural networks (NN) due to the need for personalization and hard-to-model human-machine interaction dynamics. However, NN based estimators and controllers may produce potentially unsafe outputs over previously unseen data points. In this paper, we introduce an algorithm for updating NN control policies to satisfy a given set of formal safety constraints, while also optimizing the original loss function. Given a set of mixed-integer linear constraints, we define the NN repair problem as a Mixed Integer Quadratic Program (MIQP). In extensive experiments, we demonstrate the efficacy of our repair method in generating safe policies for a lower-leg prosthesis.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google