Detecting Hallucinations in Virtual Histology with Neural Precursors

要約

重要な生物医学研究と臨床ケアは、染色された組織の顕微鏡検査を使用した組織構造の組織病理学的検査に依存しています。
仮想染色 (VS) は、コストを削減し、有毒な試薬の使用を排除できる可能性のある有望な代替手段を提供します。
しかし、幻覚という重大な問題により、その使用に対する信頼性が制限されており、これらの幻覚を検出するには VS の副操縦士が必要です。
ここでは、まず VS における幻覚検出の問題を正式に確立します。
次に、テスト時の検出のために VS モデルの埋め込みから神経幻覚前駆体 (NHP) を識別する、スケーラブルな事後幻覚検出方法を紹介します。
NHP の有効性と堅牢性を実証するために、多様で困難な VS 設定にわたる広範な検証を報告します。
さらに、幻覚が少ない VS モデルは必ずしも幻覚をより良く開示するとは限らず、前者の指標だけを報告すると誤った安心感を与える危険性があることを示します。
これは、現在の VS 評価慣行を再評価する必要があることを浮き彫りにしています。

要約(オリジナル)

Significant biomedical research and clinical care rely on the histopathologic examination of tissue structure using microscopy of stained tissue. Virtual staining (VS) offers a promising alternative with the potential to reduce cost and eliminate the use of toxic reagents. However, the critical challenge of hallucinations limits confidence in its use, necessitating a VS co-pilot to detect these hallucinations. Here, we first formally establish the problem of hallucination detection in VS. Next, we introduce a scalable, post-hoc hallucination detection method that identifies a Neural Hallucination Precursor (NHP) from VS model embeddings for test-time detection. We report extensive validation across diverse and challenging VS settings to demonstrate NHP’s effectiveness and robustness. Furthermore, we show that VS models with fewer hallucinations do not necessarily disclose them better, risking a false sense of security when reporting just the former metric. This highlights the need for a reassessment of current VS evaluation practices.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google