The Dice loss in the context of missing or empty labels: Introducing $Φ$ and $ε$

要約

ダイスロスは医用画像セグメンテーションにおける主要な損失関数の一つであるが、ほとんどの研究では、その微分、すなわち勾配降下を用いた場合の最適化の真のモーターを詳しく見ることが省略されている。本論文では、ラベルの欠損や空白が存在する場合のダイス損失の特異な作用に注目する。まず、Dice lossとその微分の一般的な説明を与える理論的根拠を定式化する。その結果、削減次元$Phi$と平滑化項$epsilon$の選択は自明ではなく、その挙動に大きく影響することが判明した。我々は、ラベルが欠損または空のセグメンテーション設定において、有効な$Phi$と$epsilon$のヒューリスティックな組み合わせを発見し、提案する。次に、一般に公開されている2つのデータセットを用いて、2クラスとマルチクラスのセグメンテーションにおいて、これらの知見を実証的に検証する。その結果、$Phi$と$epsilon$の選択が非常に重要であることを確認した。Dice lossは、1つのバッチ（およびクラス）要素で削減が起こるように$Phi$を選択し、$inthesepsilon$を無視することで、欠損ラベルを自然に扱い、欠損ラベルに特化した最近の適応と比較して同様の性能を発揮することができる。また、複数のバッチ要素で削減するように$Phi$を選択したり、$epsilon$にヒューリスティックな値を設定すると、Dice lossは空のラベルを正しく処理することができる。本研究は、いくつかの重要な観点を明らかにし、研究者が今後の研究においてDice lossの正確な実装をよりよく説明することを奨励するものと考える。

要約(オリジナル)

Albeit the Dice loss is one of the dominant loss functions in medical image segmentation, most research omits a closer look at its derivative, i.e. the real motor of the optimization when using gradient descent. In this paper, we highlight the peculiar action of the Dice loss in the presence of missing or empty labels. First, we formulate a theoretical basis that gives a general description of the Dice loss and its derivative. It turns out that the choice of the reduction dimensions $\Phi$ and the smoothing term $\epsilon$ is non-trivial and greatly influences its behavior. We find and propose heuristic combinations of $\Phi$ and $\epsilon$ that work in a segmentation setting with either missing or empty labels. Second, we empirically validate these findings in a binary and multiclass segmentation setting using two publicly available datasets. We confirm that the choice of $\Phi$ and $\epsilon$ is indeed pivotal. With $\Phi$ chosen such that the reductions happen over a single batch (and class) element and with a negligible $\epsilon$, the Dice loss deals with missing labels naturally and performs similarly compared to recent adaptations specific for missing labels. With $\Phi$ chosen such that the reductions happen over multiple batch elements or with a heuristic value for $\epsilon$, the Dice loss handles empty labels correctly. We believe that this work highlights some essential perspectives and hope that it encourages researchers to better describe their exact implementation of the Dice loss in future work.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL