A Bridge between Dynamical Systems and Machine Learning: Engineered Ordinary Differential Equations as Classification Algorithm (EODECA)

要約

機械学習への依存がますます高まる世界において、これらのモデルの解釈可能性は依然として大きな課題であり、多くの人がその機能を謎めいたブラックボックスとみなしています。
この研究は、機械学習と動的システムの橋渡しを目指しています。
特に非線形性と連続変換の観点から、高密度ニューラル ネットワークと力学システムの間に深い類似点があることを認識し、この原稿では分類アルゴリズムとしての工学的常微分方程式 (EODECA) を紹介します。
EODECA は、連続常微分方程式に支えられたニューラル ネットワークとして独自に設計されており、確立された動的システムのツールキットを活用することを目指しています。
不透明性の影響を受けることが多い従来の深層学習モデルとは異なり、EODECA は高い分類パフォーマンスと本質的な解釈可能性の両方を約束します。
これらは本質的に反転可能であり、対応するものよりも理解と透明性において優位性をもたらします。
これらの領域の橋渡しをすることで、データ プロセスの真の理解が予測能力を補完する機械学習モデルの新時代の到来を目指しています。

要約(オリジナル)

In a world increasingly reliant on machine learning, the interpretability of these models remains a substantial challenge, with many equating their functionality to an enigmatic black box. This study seeks to bridge machine learning and dynamical systems. Recognizing the deep parallels between dense neural networks and dynamical systems, particularly in the light of non-linearities and successive transformations, this manuscript introduces the Engineered Ordinary Differential Equations as Classification Algorithms (EODECAs). Uniquely designed as neural networks underpinned by continuous ordinary differential equations, EODECAs aim to capitalize on the well-established toolkit of dynamical systems. Unlike traditional deep learning models, which often suffer from opacity, EODECAs promise both high classification performance and intrinsic interpretability. They are naturally invertible, granting them an edge in understanding and transparency over their counterparts. By bridging these domains, we hope to usher in a new era of machine learning models where genuine comprehension of data processes complements predictive prowess.

arxiv情報

著者 Raffaele Marino,Lorenzo Giambagli,Lorenzo Chicchi,Lorenzo Buffoni,Duccio Fanelli
発行日 2023-11-17 08:30:41+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cond-mat.dis-nn, cond-mat.stat-mech, cs.AI, cs.LG パーマリンク