DarkGS: Learning Neural Illumination and 3D Gaussians Relighting for Robotic Exploration in the Dark

要約

人間は、限られた照度や様々な照度の下でも、環境の一貫したメンタルモデルを構築する驚くべき能力を持っている。我々はロボットにこれと同じ能力を与えたいと考えている。本論文では、光源が移動するような、照度の低い条件下で、写実的な情景表現を構築するという課題に取り組む。我々は照明をモデル化するタスクを学習問題としてアプローチし、シーン再構成を支援するために開発された照明モデルを利用する。データ駆動型アプローチであるニューラル・ライト・シミュレータ（NeLiS）を用いて、カメラ・照明システムをモデル化・較正する革新的なフレームワークを紹介する。さらに、NeLiSを応用して、新しい視点からのリアルタイムでフォトリアリスティックなレンダリングが可能な、再照明可能な3Dガウスシーンモデルを作成する手法であるDarkGSを紹介する。提案するシミュレータとシステムの適用性とロバスト性を、様々な実環境で示す。

要約(オリジナル)

Humans have the remarkable ability to construct consistent mental models of an environment, even under limited or varying levels of illumination. We wish to endow robots with this same capability. In this paper, we tackle the challenge of constructing a photorealistic scene representation under poorly illuminated conditions and with a moving light source. We approach the task of modeling illumination as a learning problem, and utilize the developed illumination model to aid in scene reconstruction. We introduce an innovative framework that uses a data-driven approach, Neural Light Simulators (NeLiS), to model and calibrate the camera-light system. Furthermore, we present DarkGS, a method that applies NeLiS to create a relightable 3D Gaussian scene model capable of real-time, photorealistic rendering from novel viewpoints. We show the applicability and robustness of our proposed simulator and system in a variety of real-world environments.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL