Unified Hallucination Detection for Multimodal Large Language Models

要約

マルチモーダルなタスクにおいて大きな進歩を遂げたにもかかわらず、マルチモーダル大規模言語モデル（MLLM）は幻覚という重大な問題に悩まされている。そのため、MLLMにおける幻覚を確実に検出することは、モデルの評価と実用的なアプリケーション展開の安全性を確保するために不可欠な側面となっている。この領域における先行研究は、単一のタスクに焦点を絞った狭い焦点、扱われる幻覚カテゴリの不十分な範囲、および詳細な粒度の不足によって制約を受けてきた。これらの課題に対して、我々の研究は幻覚検出の研究の地平を広げるものである。我々は、幻覚検出手法の進歩の評価を容易にするために綿密に作られた、新しいメタ評価ベンチマークであるMHaluBenchを提示する。さらに、幻覚の発生をロバストに検証するための補助ツール群を活用した、新しい統合マルチモーダル幻覚検出フレームワークUNIHDを発表する。UNIHDの有効性を綿密な評価と包括的な分析によって実証する。また、幻覚の様々なカテゴリーに対応するための特定のツールの適用に関する戦略的洞察も提供する。

要約(オリジナル)

Despite significant strides in multimodal tasks, Multimodal Large Language Models (MLLMs) are plagued by the critical issue of hallucination. The reliable detection of such hallucinations in MLLMs has, therefore, become a vital aspect of model evaluation and the safeguarding of practical application deployment. Prior research in this domain has been constrained by a narrow focus on singular tasks, an inadequate range of hallucination categories addressed, and a lack of detailed granularity. In response to these challenges, our work expands the investigative horizons of hallucination detection. We present a novel meta-evaluation benchmark, MHaluBench, meticulously crafted to facilitate the evaluation of advancements in hallucination detection methods. Additionally, we unveil a novel unified multimodal hallucination detection framework, UNIHD, which leverages a suite of auxiliary tools to validate the occurrence of hallucinations robustly. We demonstrate the effectiveness of UNIHD through meticulous evaluation and comprehensive analysis. We also provide strategic insights on the application of specific tools for addressing various categories of hallucinations.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL