Revealing Bias Formation in Deep Neural Networks Through the Geometric Mechanisms of Human Visual Decoupling

要約

ディープニューラルネットワーク（DNNS）は、バランスの取れたトレーニングデータ条件下であっても、オブジェクト認識中に特定のカテゴリにバイアスを示すことがよくあります。
これらのバイアスの根底にある固有のメカニズムは不明のままです。
オブジェクトのマニホールドを階層処理を介してオブジェクト認識を実現する人間の視覚システムに触発され、DNNSのクラス固有の知覚マニホールドの幾何学的複雑さをモデル化する幾何学的複雑さをリンクする幾何学的分析フレームワークを提案します。
私たちの調査結果は、幾何学的な複雑さの違いが、カテゴリ全体で認識能力が変化し、バイアスが導入される可能性があることを明らかにしています。
この分析をサポートするために、知覚マニホールドの幾何学的特性を計算するために設計された知覚マニホールドジオメトリライブラリを提示します。

要約(オリジナル)

Deep neural networks (DNNs) often exhibit biases toward certain categories during object recognition, even under balanced training data conditions. The intrinsic mechanisms underlying these biases remain unclear. Inspired by the human visual system, which decouples object manifolds through hierarchical processing to achieve object recognition, we propose a geometric analysis framework linking the geometric complexity of class-specific perceptual manifolds in DNNs to model bias. Our findings reveal that differences in geometric complexity can lead to varying recognition capabilities across categories, introducing biases. To support this analysis, we present the Perceptual-Manifold-Geometry library, designed for calculating the geometric properties of perceptual manifolds.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google