DEM: A Method for Certifying Deep Neural Network Classifier Outputs in Aerospace

要約

航空宇宙分野のソフトウェア開発では、厳格で高品質の基準に準拠する必要があります。
この分野の商用ソフトウェアには規制ガイドラインが存在しますが (ARP-4754 や DO-178 など)、これらはディープ ニューラル ネットワーク (DNN) コンポーネントを含むソフトウェアには適用されません。
そのため、航空宇宙システムがディープラーニング革命の恩恵をどのように受けられるかは不明です。
ここでの私たちの取り組みは、DNN 認証のための新しい出力中心のアプローチでこの課題に対処することを目指しています。
私たちの方法は統計的検証技術を採用しており、DNN の出力が信頼できない可能性がある特定の入力にフラグを付けることができるという重要な利点を備えており、後で人間の専門家によって検査できるようになります。
これを達成するために、私たちの方法では、不一致を検出するために、他の近くの入力に対する DNN の予測の統計分析を実行します。
これは、通常、個々の出力ではなく DNN 全体を認証しようとする既存の技術とは対照的です。
私たちの方法では、DNN をブラックボックスとして使用し、そのトポロジについて何も仮定しません。
私たちは、この取り組みが安全性が重要なアプリケーション、特に高い品質と信頼性の基準が重要である航空宇宙分野での DNN の統合に向けた新たな一歩となることを願っています。

要約(オリジナル)

Software development in the aerospace domain requires adhering to strict, high-quality standards. While there exist regulatory guidelines for commercial software in this domain (e.g., ARP-4754 and DO-178), these do not apply to software with deep neural network (DNN) components. Consequently, it is unclear how to allow aerospace systems to benefit from the deep learning revolution. Our work here seeks to address this challenge with a novel, output-centric approach for DNN certification. Our method employs statistical verification techniques, and has the key advantage of being able to flag specific inputs for which the DNN’s output may be unreliable – so that they may be later inspected by a human expert. To achieve this, our method conducts a statistical analysis of the DNN’s predictions for other, nearby inputs, in order to detect inconsistencies. This is in contrast to existing techniques, which typically attempt to certify the entire DNN, as opposed to individual outputs. Our method uses the DNN as a black-box, and makes no assumptions about its topology. We hope that this work constitutes another step towards integrating DNNs in safety-critical applications – especially in the aerospace domain, where high standards of quality and reliability are crucial.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google