Group-invariant tensor train networks for supervised learning

要約

不変性は、機械学習モデルにおける強力な帰納的バイアスであることが最近証明されました。
予測モデルまたは生成モデルのそのようなクラスの 1 つは、テンソル ネットワークです。
任意の離散群の正規行列表現の作用下で不変であるテンソルの基底を構築するための新しい数値アルゴリズムを導入します。
この方法は、以前のアプローチよりも最大で数桁高速になる可能性があります。
次に、グループ不変テンソルはグループ不変テンソル トレイン ネットワークに結合され、教師あり機械学習モデルとして使用できます。
私たちは、問題固有の不変性を考慮してこのモデルをタンパク質結合分類問題に適用し、最先端の深層学習アプローチに沿った予測精度を取得しました。

要約(オリジナル)

Invariance has recently proven to be a powerful inductive bias in machine learning models. One such class of predictive or generative models are tensor networks. We introduce a new numerical algorithm to construct a basis of tensors that are invariant under the action of normal matrix representations of an arbitrary discrete group. This method can be up to several orders of magnitude faster than previous approaches. The group-invariant tensors are then combined into a group-invariant tensor train network, which can be used as a supervised machine learning model. We applied this model to a protein binding classification problem, taking into account problem-specific invariances, and obtained prediction accuracy in line with state-of-the-art deep learning approaches.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google