An Advanced NLP Framework for Automated Medical Diagnosis with DeBERTa and Dynamic Contextual Positional Gating

要約

このペーパーでは、データ増強、特徴抽出、および分類における高度な技術の統合を通じて医療診断を強化するための新しい自然言語処理（NLP）フレームワークを紹介します。
提案されているアプローチは、バック翻訳を採用して、多様な言い換えデータセットを生成し、堅牢性を改善し、分類タスクの過剰適合を軽減します。
ダイナリックコンテキスト位置ゲーティング（DCPG）を使用して、デコード強化BERT（DEBERTA）をレバレッジして、モデルは微細なコンテキストおよび位置的関係と位置的関係をキャプチャし、セマンティックコンテキストに基づいて位置情報の影響を動的に調整して高品質のテキスト埋め込みを生成します。
分類のために、注意ベースのフィードフォワードニューラルネットワーク（ABFNN）が利用され、意思決定の精度を向上させるために最も関連性の高い機能に効果的に焦点を当てます。
症状、臨床ノート、およびその他の医療テキストの分類に適用されるこのアーキテクチャは、医療データの複雑さに対処する能力を示しています。
データ増強、コンテキスト埋め込み生成、および高度な分類メカニズムの組み合わせは、自動化された医療診断と臨床的意思決定サポートにおける潜在的なアプリケーションを備えた堅牢で正確な診断ツールを提供します。
この方法は、医療診断のために提案されたNLPフレームワークの有効性を示しており、99.78％の精度、99.72％、99.79％の精度、F1スコア99.75％のリコールで顕著な結果を達成します。
これらのメトリックは、並外れた精度と信頼性で医療テキストを分類する際のモデルの堅牢なパフォーマンスを強調するだけでなく、既存の方法に対する優位性も強調しているため、自動化された診断システムのための非常に有望なツールになります。

要約(オリジナル)

This paper presents a novel Natural Language Processing (NLP) framework for enhancing medical diagnosis through the integration of advanced techniques in data augmentation, feature extraction, and classification. The proposed approach employs back-translation to generate diverse paraphrased datasets, improving robustness and mitigating overfitting in classification tasks. Leveraging Decoding-enhanced BERT with Disentangled Attention (DeBERTa) with Dynamic Contextual Positional Gating (DCPG), the model captures fine-grained contextual and positional relationships, dynamically adjusting the influence of positional information based on semantic context to produce high-quality text embeddings. For classification, an Attention-Based Feedforward Neural Network (ABFNN) is utilized, effectively focusing on the most relevant features to improve decision-making accuracy. Applied to the classification of symptoms, clinical notes, and other medical texts, this architecture demonstrates its ability to address the complexities of medical data. The combination of data augmentation, contextual embedding generation, and advanced classification mechanisms offers a robust and accurate diagnostic tool, with potential applications in automated medical diagnosis and clinical decision support. This method demonstrates the effectiveness of the proposed NLP framework for medical diagnosis, achieving remarkable results with an accuracy of 99.78%, recall of 99.72%, precision of 99.79%, and an F1-score of 99.75%. These metrics not only underscore the model’s robust performance in classifying medical texts with exceptional precision and reliability but also highlight its superiority over existing methods, making it a highly promising tool for automated diagnostic systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google