The Point of View of a Sentiment: Towards Clinician Bias Detection in Psychiatric Notes

要約

否定的な患者の説明とスティグマ化言語は、2つの方法で医療の格差を生み出すことに貢献する可能性があります。
（2）医師が読むと、彼らは将来の患者の視点に悪影響を与える可能性があります。
精神医学では、患者臨床医の治療同盟は臨床結果の主要な決定要因です。
したがって、精神医学的臨床ノートでの言語の使用は、医療の格差を生み出すだけでなく、それらを永続させるかもしれません。
NLPシステムの最近の進歩により、ヘルスケアの差別的言語を検出する努力が促進されました。
しかし、そのような試みは、医療センターとその医師の視点にのみ焦点を合わせています。
医師と非物理学者の両方の視点を考慮することは、臨床ノートで潜在的に有害な言語を特定するためのより翻訳可能なアプローチです。
事前に訓練された大規模な言語モデル（PLMSおよびLLMS）を活用することにより、この作業は、読者の視点に基づいて患者を説明する文で表現された感情を特定することにより、精神医学的ノートの潜在的に有害な言語使用を特徴付けることを目的としています。
精神医学用語を含むマウントシナイヘルスシステムから39文を抽出して、3つのPLMS（Roberta、Gatortron、およびGatortron + Task Adaptation）を微調整し、3つのLLM（GPT-3.5、LLAMAのゼロショットおよび少ないショットICLアプローチを実装しました。
-3.1、およびMistral）は、医師または非医師の視点に従って文章の感情を分類する。
結果は、GPT-3.5が医師の視点に最善を整え、ミストラルが非医師の視点に最適に揃っていることを示しました。
これらの結果は、ノートライティングプロセスを改善するだけでなく、下流分析の計算システムのバイアスの定量化、識別、および削減のために、読者の視点を認識することの重要性を強調しています。

要約(オリジナル)

Negative patient descriptions and stigmatizing language can contribute to generating healthcare disparities in two ways: (1) read by patients, they can harm their trust and engagement with the medical center; (2) read by physicians, they may negatively influence their perspective of a future patient. In psychiatry, the patient-clinician therapeutic alliance is a major determinant of clinical outcomes. Therefore, language usage in psychiatric clinical notes may not only create healthcare disparities, but also perpetuate them. Recent advances in NLP systems have facilitated the efforts to detect discriminatory language in healthcare. However, such attempts have only focused on the perspectives of the medical center and its physicians. Considering both physicians and non-physicians’ point of view is a more translatable approach to identifying potentially harmful language in clinical notes. By leveraging pre-trained and large language models (PLMs and LLMs), this work aims to characterize potentially harmful language usage in psychiatric notes by identifying the sentiment expressed in sentences describing patients based on the reader’s point of view. Extracting 39 sentences from the Mount Sinai Health System containing psychiatric lexicon, we fine-tuned three PLMs (RoBERTa, GatorTron, and GatorTron + Task Adaptation) and implemented zero-shot and few-shot ICL approaches for three LLMs (GPT-3.5, Llama-3.1, and Mistral) to classify the sentiment of the sentences according to the physician or non-physician point of view. Results showed that GPT-3.5 aligned best to physician point of view and Mistral aligned best to non-physician point of view. These results underline the importance of recognizing the reader’s point of view, not only for improving the note writing process, but also for the quantification, identification, and reduction of bias in computational systems for downstream analyses.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google