Why Deep Surgical Models Fail?: Revisiting Surgical Action Triplet Recognition through the Lens of Robustness

要約

手術行為のトリプレット認識により、手術シーンの理解が深まります。
このタスクは、外科医にコンテキストを意識したサポートと安全性を提供するため、関連性が高いです。
パフォーマンスを改善するための現在の戦略は、新しいネットワーク メカニズムの開発です。
ただし、現在の最先端技術のパフォーマンスは、他の外科的タスクよりも大幅に低くなります。
なぜこうなった？
これが、この作品で取り組む問題です。
堅牢性と説明可能性のレンズを通して、既存の深層学習モデルの失敗を理解するための最初の研究を紹介します。
まず、敵対的最適化スキームを介して、弱いおよび強い $\delta-$ 摂動の下で現在の既存のモデルを研究します。
次に、機能ベースの説明を通じて故障モードを分析します。
私たちの研究は、パフォーマンスを向上させ、信頼性を高める鍵は、コア属性とスプリアス属性にあることを明らかにしています。
私たちの仕事は、外科データ サイエンスにおけるより信頼できる信頼性の高いディープ ラーニング モデルへの扉を開きます。

要約(オリジナル)

Surgical action triplet recognition provides a better understanding of the surgical scene. This task is of high relevance as it provides the surgeon with context-aware support and safety. The current go-to strategy for improving performance is the development of new network mechanisms. However, the performance of current state-of-the-art techniques is substantially lower than other surgical tasks. Why is this happening? This is the question that we address in this work. We present the first study to understand the failure of existing deep learning models through the lens of robustness and explainability. Firstly, we study current existing models under weak and strong $\delta-$perturbations via an adversarial optimisation scheme. We then analyse the failure modes via feature based explanations. Our study reveals that the key to improving performance and increasing reliability is in the core and spurious attributes. Our work opens the door to more trustworthy and reliable deep learning models in surgical data science.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google