Deep Learning: a Heuristic Three-stage Mechanism for Grid Searches to Optimize the Future Risk Prediction of Breast Cancer Metastasis Using EHR-based Clinical Data

要約

グリッド検索は、多数のモデルのトレーニングとテストを犠牲にして、深層学習モデルの予測パフォーマンスを最適化する効果的な方法です。
グリッド検索に関する困難なタスクは時間管理です。
適切な時間管理スキームがなければ、グリッド検索は私たちが生きているうちに完了しないミッションとして簡単に開始される可能性があります。
この研究では、低予算グリッド検索の実行時間を管理するためのヒューリスティックな 3 段階メカニズムと、予測におけるモデル予測パフォーマンスを向上させるためのスイートスポット グリッド検索 (SSGS) およびランダム化グリッド検索 (RGS) 戦略を導入します。
乳がん転移の5年、10年、15年のリスク。
私たちはディープ フィードフォワード ニューラル ネットワーク (DFNN) モデルを開発し、グリッド検索を通じてそれらを最適化します。
3 段階のメカニズムと SSGS および RGS 戦略を適用して、8 サイクルのグリッド検索を実行します。
私たちは、DFNN モデルのハイパーパラメーターの重要性を解釈する独自の分析を含む、さまざまな SHAP 分析を実行します。
私たちの結果は、グリッド検索がモデル予測を大幅に改善できることを示しています。
私たちが実施したグリッド検索では、トレーニングしたすべての対応するモデルの平均パフォーマンスと比べて、5 年、10 年、15 年の乳がん転移のリスク予測がそれぞれ 18.6%、16.3%、17.3% 向上しました。
私たちは、最高のモデルのパフォーマンスを実証するだけでなく、適切なモデルを発見する機能や単位グリッド検索時間など、さまざまな側面からグリッド検索を特徴付けます。
3段階のメカニズムが効果的に機能しました。
これにより、低予算のグリッド検索が実行可能かつ管理しやすくなり、同時にモデルの予測パフォーマンスの向上にも役立ちました。
当社の SHAP 分析により、将来の乳がん転移リスクの予測に重要な臨床リスク因子と、パフォーマンス スコアの予測に重要な DFNN モデルのハイパーパラメーターの両方が特定されました。

要約(オリジナル)

A grid search, at the cost of training and testing a large number of models, is an effective way to optimize the prediction performance of deep learning models. A challenging task concerning grid search is the time management. Without a good time management scheme, a grid search can easily be set off as a mission that will not finish in our lifetime. In this study, we introduce a heuristic three-stage mechanism for managing the running time of low-budget grid searches, and the sweet-spot grid search (SSGS) and randomized grid search (RGS) strategies for improving model prediction performance, in predicting the 5-year, 10-year, and 15-year risk of breast cancer metastasis. We develop deep feedforward neural network (DFNN) models and optimize them through grid searches. We conduct eight cycles of grid searches by applying our three-stage mechanism and SSGS and RGS strategies. We conduct various SHAP analyses including unique ones that interpret the importance of the DFNN-model hyperparameters. Our results show that grid search can greatly improve model prediction. The grid searches we conducted improved the risk prediction of 5-year, 10-year, and 15-year breast cancer metastasis by 18.6%, 16.3%, and 17.3% respectively, over the average performance of all corresponding models we trained. We not only demonstrate best model performance but also characterize grid searches from various aspects such as their capabilities of discovering decent models and the unit grid search time. The three-stage mechanism worked effectively. It made our low-budget grid searches feasible and manageable, and in the meantime helped improve model prediction performance. Our SHAP analyses identified both clinical risk factors important for the prediction of future risk of breast cancer metastasis, and DFNN-model hyperparameters important to the prediction of performance scores.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google