PiShield: A PyTorch Package for Learning with Requirements

要約

深層学習モデルは、さまざまなアプリケーション領域でその強みを発揮してきましたが、出力の安全要件を満たすのに苦労することがよくあります。
このペーパーでは、ニューラル ネットワークのトポロジへの要件の統合を可能にした最初のパッケージである PiShield を紹介します。
PiShield は、入力に関係なく、これらの要件への準拠を保証します。
さらに、実務者のニーズに応じて、推論時とトレーニング時の両方で要件を統合することができます。
深層学習の応用が広く普及していることを考えると、さまざまなドメインにわたる要件の統合を可能にするフレームワークの必要性が高まっています。
ここでは、機能ゲノミクス、自動運転、表形式データ生成という 3 つのアプリケーション シナリオを検討します。

要約(オリジナル)

Deep learning models have shown their strengths in various application domains, however, they often struggle to meet safety requirements for their outputs. In this paper, we introduce PiShield, the first package ever allowing for the integration of the requirements into the neural networks’ topology. PiShield guarantees compliance with these requirements, regardless of input. Additionally, it allows for integrating requirements both at inference and/or training time, depending on the practitioners’ needs. Given the widespread application of deep learning, there is a growing need for frameworks allowing for the integration of the requirements across various domains. Here, we explore three application scenarios: functional genomics, autonomous driving, and tabular data generation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google