Ensemble-Based Survival Models with the Self-Attended Beran Estimator Predictions

要約

生存分析は、失敗や死などの関心のある出来事までの時間を予測しますが、一部のイベントが観察されないままである検閲データによる課題に直面しています。
ランダムサバイバルフォレストやグラジエントブーストなどのアンサンブルベースのモデルは広く使用されていますが、ブートストラップサンプルの変動により不安定な予測を生成できます。
これに対処するために、ベラン推定器と自己触媒メカニズムを組み合わせた新しいアンサンブルモデルであるサバイバルベラン推定器自己attendators）を提案します。
従来の方法とは異なり、Survsaは予測された生存機能に自己関節を適用し、隣接する生存機能との類似性に基づいて各生存機能を調整することにより、ノイズを滑らかにします。
また、Huberの汚染モデルを使用して注意の重みを定義し、2次または線形の最適化問題に対するトレーニングを簡素化する特別なケースを探ります。
数値実験は、サバッサが最先端のモデルよりも優れていることを示しています。
Survbesaの実装は公開されています。

要約(オリジナル)

Survival analysis predicts the time until an event of interest, such as failure or death, but faces challenges due to censored data, where some events remain unobserved. Ensemble-based models, like random survival forests and gradient boosting, are widely used but can produce unstable predictions due to variations in bootstrap samples. To address this, we propose SurvBESA (Survival Beran Estimators Self-Attended), a novel ensemble model that combines Beran estimators with a self-attention mechanism. Unlike traditional methods, SurvBESA applies self-attention to predicted survival functions, smoothing out noise by adjusting each survival function based on its similarity to neighboring survival functions. We also explore a special case using Huber’s contamination model to define attention weights, simplifying training to a quadratic or linear optimization problem. Numerical experiments show that SurvBESA outperforms state-of-the-art models. The implementation of SurvBESA is publicly available.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google