Topological Parallax: A Geometric Specification for Deep Perception Models

要約

AI システムの安全性と堅牢性を確保するために、トレーニング済みモデルと参照データセットを比較して、それらが類似したマルチスケール幾何学的構造を持っているかどうかを判断する理論的および計算上のツールとしてトポロジカル視差を導入します。
私たちの証明と例は、データセットとモデルの間のこの幾何学的類似性が信頼できる補間と摂動に不可欠であることを示しており、この新しい概念は、深層学習の応用における過学習と一般化の間の不明確な関係に関する現在の議論に価値を加えるものであると推測しています。
一般的な DNN アプリケーションでは、モデルの明示的な幾何学的記述は不可能ですが、視差は、参照データセットを使用して測地線歪みの Rips 複合体への影響を調べることにより、モデル内のトポロジカルな特徴 (コンポーネント、サイクル、ボイドなど) を推定できます。
したがって、視差は、モデルが同様のマルチスケールの幾何学的特徴をデータセットと共有しているかどうかを示します。
Parallax は理論的にはトポロジカル データ分析 [TDA] を介して二重フィルターされた永続性モジュールとして提供され、このモジュールの主要な特性は参照データセットの摂動下でも安定しています。

要約(オリジナル)

For safety and robustness of AI systems, we introduce topological parallax as a theoretical and computational tool that compares a trained model to a reference dataset to determine whether they have similar multiscale geometric structure. Our proofs and examples show that this geometric similarity between dataset and model is essential to trustworthy interpolation and perturbation, and we conjecture that this new concept will add value to the current debate regarding the unclear relationship between overfitting and generalization in applications of deep-learning. In typical DNN applications, an explicit geometric description of the model is impossible, but parallax can estimate topological features (components, cycles, voids, etc.) in the model by examining the effect on the Rips complex of geodesic distortions using the reference dataset. Thus, parallax indicates whether the model shares similar multiscale geometric features with the dataset. Parallax presents theoretically via topological data analysis [TDA] as a bi-filtered persistence module, and the key properties of this module are stable under perturbation of the reference dataset.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google