Towards Global Neural Network Abstractions with Locally-Exact Reconstruction

要約

タイトル：ローカリー完全再現性をもったグローバルニューラルネットワークの抽象化へのアプローチ

要約：
– ニューラルネットワークは、強力な非線形関数です。ただし、黒箱の性質から、その振る舞いを説明したり安全性を保証することが困難です。
– 抽象化技術は、ニューラルネットワークをより簡単な、特定の場合に適用できるように近似した関数に変換することで、これらの問題に対処します。
– しかし、既存の抽象化技術は十分ではなく、入力ドメインの小さな局所領域にしか適用できません。
– この論文では、ローカルな入力に対して完全に再現しつつ、全ての入力ドメインに安全な上限値を出せるグローバルインターバルニューラルネットワーク抽象化技術(GINNACER)を提案します。
– GINNACERは、最新のグローバル抽象化技術よりも桁違いに正確であり、ローカルな抽象化技術と競合するほどの性能を持つことを実験によって示しています。

要約(オリジナル)

Neural networks are a powerful class of non-linear functions. However, their black-box nature makes it difficult to explain their behaviour and certify their safety. Abstraction techniques address this challenge by transforming the neural network into a simpler, over-approximated function. Unfortunately, existing abstraction techniques are slack, which limits their applicability to small local regions of the input domain. In this paper, we propose Global Interval Neural Network Abstractions with Center-Exact Reconstruction (GINNACER). Our novel abstraction technique produces sound over-approximation bounds over the whole input domain while guaranteeing exact reconstructions for any given local input. Our experiments show that GINNACER is several orders of magnitude tighter than state-of-the-art global abstraction techniques, while being competitive with local ones.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI