Temporal fine-tuning for early risk detection

要約

Web上の早期リスク検出（ERD）は、社会的および健康問題に直面しているユーザーを迅速に特定することを目指しています。
ユーザーはポストごとに分析され、正しい回答と迅速な回答を保証する必要があります。これは、重要なシナリオで特に困難です。
ERDには、分類精度を最適化し、検出遅延を最小限に抑えることが含まれます。
標準的な分類メトリックでは十分ではなく、精度と遅延を明示的に考慮するERDE（Theta）などの特定のメトリックに頼っています。
現在の研究では、多目的アプローチの適用、分類パフォーマンスの優先順位付け、意思決定時間の個別の基準の確立に焦点を当てています。
この作業では、学習プロセス内に明示的に時間を組み込むことにより、変圧器ベースのモデルを調整できるようにする、まったく異なる戦略である一時的な微調整を提案します。
私たちの方法では、完全なユーザーポスト履歴を分析し、さまざまなコンテキストを考慮したチューニングモデルを分析し、時間メトリックを使用してトレーニングパフォーマンスを評価できます。
私たちは、スペイン語のうつ病と摂食障害のタスクにおける提案を評価し、MentalRiskes 2023の最良のモデルと比較して競争結果を達成しました。
このようにして、トランスの力を適切に利用することにより、精度と速度を単一の目的として組み合わせることにより、ERDに対処することができます。

要約(オリジナル)

Early Risk Detection (ERD) on the Web aims to identify promptly users facing social and health issues. Users are analyzed post-by-post, and it is necessary to guarantee correct and quick answers, which is particularly challenging in critical scenarios. ERD involves optimizing classification precision and minimizing detection delay. Standard classification metrics may not suffice, resorting to specific metrics such as ERDE(theta) that explicitly consider precision and delay. The current research focuses on applying a multi-objective approach, prioritizing classification performance and establishing a separate criterion for decision time. In this work, we propose a completely different strategy, temporal fine-tuning, which allows tuning transformer-based models by explicitly incorporating time within the learning process. Our method allows us to analyze complete user post histories, tune models considering different contexts, and evaluate training performance using temporal metrics. We evaluated our proposal in the depression and eating disorders tasks for the Spanish language, achieving competitive results compared to the best models of MentalRiskES 2023. We found that temporal fine-tuning optimized decisions considering context and time progress. In this way, by properly taking advantage of the power of transformers, it is possible to address ERD by combining precision and speed as a single objective.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google