Where Do We Stand with Implicit Neural Representations? A Technical and Performance Survey

要約

暗黙の神経表現（INR）は、知識表現のパラダイムとして浮上しており、多様なアプリケーションで並外れた柔軟性とパフォーマンスを提供しています。
INRSは、多層パーセプトロン（MLPS）を活用して、データを連続的に暗黙的な関数としてモデル化し、解像度の独立性、メモリ効率、離散データ構造を超えた一般化などの重要な利点を提供します。
複雑な逆問題を解決する能力は、オーディオ再構成、画像表現、3Dオブジェクトの再構築、高次元データ合成などのタスクに特に効果的です。
この調査では、最先端のINRメソッドの包括的なレビューを提供し、それらを4つの重要な領域に分類する明確な分類法を導入します：アクティベーション関数、位置エンコーディング、組み合わせ戦略、ネットワーク構造の最適化。
さまざまな解像度への完全な差別化、滑らかさ、コンパクトさ、適応性など、それらの重要な特性を厳密に分析し、地域のバイアスに対処し、細かい詳細をキャプチャする際の強みと制限を調べます。
実験的な比較は、さまざまなアプローチ間のトレードオフに関する新しい洞察を提供し、さまざまなタスクにわたる最新のINRテクニックの機能と課題を紹介します。
現在の方法が優れている領域を特定することに加えて、より表現力のある活性化関数の開発、位置エンコーディングメカニズムの強化、複雑で高次元データのスケーラビリティの改善など、改善の潜在的な方法を強調します。
この調査は、研究者のロードマップとして機能し、INRSの分野での将来の調査のための実用的なガイダンスを提供します。
私たちは、INRとアプリケーションの有望な研究の方向性を概説することにより、新しい方法論を促進することを目指しています。

要約(オリジナル)

Implicit Neural Representations (INRs) have emerged as a paradigm in knowledge representation, offering exceptional flexibility and performance across a diverse range of applications. INRs leverage multilayer perceptrons (MLPs) to model data as continuous implicit functions, providing critical advantages such as resolution independence, memory efficiency, and generalisation beyond discretised data structures. Their ability to solve complex inverse problems makes them particularly effective for tasks including audio reconstruction, image representation, 3D object reconstruction, and high-dimensional data synthesis. This survey provides a comprehensive review of state-of-the-art INR methods, introducing a clear taxonomy that categorises them into four key areas: activation functions, position encoding, combined strategies, and network structure optimisation. We rigorously analyse their critical properties, such as full differentiability, smoothness, compactness, and adaptability to varying resolutions while also examining their strengths and limitations in addressing locality biases and capturing fine details. Our experimental comparison offers new insights into the trade-offs between different approaches, showcasing the capabilities and challenges of the latest INR techniques across various tasks. In addition to identifying areas where current methods excel, we highlight key limitations and potential avenues for improvement, such as developing more expressive activation functions, enhancing positional encoding mechanisms, and improving scalability for complex, high-dimensional data. This survey serves as a roadmap for researchers, offering practical guidance for future exploration in the field of INRs. We aim to foster new methodologies by outlining promising research directions for INRs and applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google