Topology-Aware Exploration of Energy-Based Models Equilibrium: Toric QC-LDPC Codes and Hyperbolic MET QC-LDPC Codes

要約

この論文では、不規則なグリッド上に不均一に分布した電荷に直面した場合に、ISING ハミルトニアンで平衡を達成する方法を紹介します。
(マルチエッジ) QC-LDPC コードとボルツマン マシンを使用する当社のアプローチには、システムの次元拡張、電荷の循環剤による置き換え、循環剤のシフトによる距離の表現が含まれます。
これにより、電荷システムが空間上に体系的にマッピングされ、不規則なグリッドが均一な構成に変換され、円錐双曲面トポロジーに適用できます。
この文書では、QC-LDPC コード、マルチエッジ QC-LDPC コード、およびボルツマン マシンに関連する基本的な定義と表記法について説明します。
正確な推定手法と近似推定手法を含めて、分配関数を評価するためのグラフ確率モデル上のコードにおける周辺化問題を調査します。
ねじれ双曲面および円双曲面の下でのボルツマンマシンの平衡状態の達成可能性について厳密な証明が提供され、私たちの方法論の適用への道が開かれます。
私たちのアプローチの実際の応用は、有限幾何学 QC-LDPC コード、特に材料科学で研究されています。
この論文ではさらに、一般化された反復蓄積コード、空間結合およびケージグラフ QC-LDPC コードを検証し、自然言語処理トランスフォーマー ディープ ニューラル ネットワークの領域におけるその有効性を調査します。
トポロジを意識したハードウェア効率の高い準サイクル コード平衡手法の多用途かつ影響力のある性質は、特定のセクションの説明を使用せずに、さまざまな科学分野にわたって示されています。

要約(オリジナル)

This paper presents a method for achieving equilibrium in the ISING Hamiltonian when confronted with unevenly distributed charges on an irregular grid. Employing (Multi-Edge) QC-LDPC codes and the Boltzmann machine, our approach involves dimensionally expanding the system, substituting charges with circulants, and representing distances through circulant shifts. This results in a systematic mapping of the charge system onto a space, transforming the irregular grid into a uniform configuration, applicable to Torical and Circular Hyperboloid Topologies. The paper covers fundamental definitions and notations related to QC-LDPC Codes, Multi-Edge QC-LDPC codes, and the Boltzmann machine. It explores the marginalization problem in code on the graph probabilistic models for evaluating the partition function, encompassing exact and approximate estimation techniques. Rigorous proof is provided for the attainability of equilibrium states for the Boltzmann machine under Torical and Circular Hyperboloid, paving the way for the application of our methodology. Practical applications of our approach are investigated in Finite Geometry QC-LDPC Codes, specifically in Material Science. The paper further explores its effectiveness in the realm of Natural Language Processing Transformer Deep Neural Networks, examining Generalized Repeat Accumulate Codes, Spatially-Coupled and Cage-Graph QC-LDPC Codes. The versatile and impactful nature of our topology-aware hardware-efficient quasi-cycle codes equilibrium method is showcased across diverse scientific domains without the use of specific section delineations.

arxiv情報

著者 Vasiliy Usatyuk,Denis Sapozhnikov,Sergey Egorov
発行日 2024-01-26 10:14:10+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CV, cs.IT, cs.LG, cs.SY, eess.SY, math.IT パーマリンク