Boolean Logic as an Error feedback mechanism

要約

ブール論理バックプロパゲーションの概念は、重みとアクティベーションがブール数値であるニューラル ネットワークを構築するために導入されました。
ほとんどの計算は、トレーニング段階と推論段階の両方で、実際の算術ではなくブール論理を使用して実行できます。
しかし、基礎となる離散最適化問題は NP 困難であり、ブール論理には保証がありません。
この研究では、標準的な非凸仮定の下で最初の収束分析を提案します。

要約(オリジナル)

The notion of Boolean logic backpropagation was introduced to build neural networks with weights and activations being Boolean numbers. Most of computations can be done with Boolean logic instead of real arithmetic, both during training and inference phases. But the underlying discrete optimization problem is NP-hard, and the Boolean logic has no guarantee. In this work we propose the first convergence analysis, under standard non-convex assumptions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google