Extended Deep Submodular Functions

要約

ニューラル ネットワークで表現可能な、拡張ディープ サブモジュラー関数 (EDSF) と呼ばれる新しいカテゴリの集合関数を導入します。
EDSF は、Deep Submodular Functions (DSF) の拡張として機能し、固有の制限に対処しながら、DSF から重要なプロパティを継承します。
DSF はサブモジュラー関数の限定されたサブセットを表すことができることが知られています。
対照的に、ポリマトロイドの特性の分析を通じて、EDSF がすべての単調サブモジュラー関数を表現する能力を備えていること、これは DSF と比較して顕著な強化であることを証明します。
さらに、我々の発見は、EDSF が任意の単調集合関数を表現できることを実証しており、EDSF のファミリーがすべての単調集合関数のファミリーと同等であることを示しています。
さらに、入力ベクトルの成分が非負の実数である場合、EDSF は DSF に固有の凹面を維持することを証明します。これは、特定の組み合わせ最適化問題では不可欠な機能です。
広範な実験を通じて、EDSF はカバレッジ関数の学習において DSF よりも経験的汎化誤差が大幅に低いことを示しました。
これは、EDSF が一般化機能の向上により、集合関数の表現と学習において有望な進歩をもたらすことを示唆しています。

要約(オリジナル)

We introduce a novel category of set functions called Extended Deep Submodular functions (EDSFs), which are neural network-representable. EDSFs serve as an extension of Deep Submodular Functions (DSFs), inheriting crucial properties from DSFs while addressing innate limitations. It is known that DSFs can represent a limiting subset of submodular functions. In contrast, through an analysis of polymatroid properties, we establish that EDSFs possess the capability to represent all monotone submodular functions, a notable enhancement compared to DSFs. Furthermore, our findings demonstrate that EDSFs can represent any monotone set function, indicating the family of EDSFs is equivalent to the family of all monotone set functions. Additionally, we prove that EDSFs maintain the concavity inherent in DSFs when the components of the input vector are non-negative real numbers-an essential feature in certain combinatorial optimization problems. Through extensive experiments, we illustrate that EDSFs exhibit significantly lower empirical generalization error than DSFs in the learning of coverage functions. This suggests that EDSFs present a promising advancement in the representation and learning of set functions with improved generalization capabilities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google