Large Language Models for Interpretable Mental Health Diagnosis

要約

大規模な言語モデル（LLMS）と制約ロジックプログラミング（CLP）の強みを組み合わせたメンタルヘルス診断のための臨床意思決定支援システム（CDS）を提案します。
メンタルヘルスの専門家が使用する診断マニュアルの複雑さと診断エラーの危険性のため、CDSSを持つことは重要です。
当社のCDSSは、LLMを使用して診断マニュアルをロジックプログラムに翻訳し、既製のCLPエンジンを使用してプログラムを解決し、エンコードされたルールと提供されたデータに基づいて患者の診断を照会するソフトウェアツールです。
ドメインの専門家にLLM生成ロジックプログラムを検査する機会を提供し、必要に応じて変更を加えることにより、CDSSは診断が正確であるだけでなく解釈可能であることを保証します。
LLMを使用する2つのベースラインアプローチと実験的に比較します。LLMのみのアプローチを使用して、LLMで生成されたロジックプログラムを使用しているが専門家の検査はありません。
結果は、LLMSが候補ロジックプログラムの生成に非常に役立つが、これらのプログラムが公式の診断マニュアルへの忠実さを保証するために専門家の検査と修正が依然として必要であることを示しています。
さらに、倫理的懸念は、LLMSでの患者データの直接使用から生じ、提案された方法のようなより安全なハイブリッドアプローチの必要性を強調しています。

要約(オリジナル)

We propose a clinical decision support system (CDSS) for mental health diagnosis that combines the strengths of large language models (LLMs) and constraint logic programming (CLP). Having a CDSS is important because of the high complexity of diagnostic manuals used by mental health professionals and the danger of diagnostic errors. Our CDSS is a software tool that uses an LLM to translate diagnostic manuals to a logic program and solves the program using an off-the-shelf CLP engine to query a patient’s diagnosis based on the encoded rules and provided data. By giving domain experts the opportunity to inspect the LLM-generated logic program, and making modifications when needed, our CDSS ensures that the diagnosis is not only accurate but also interpretable. We experimentally compare it with two baseline approaches of using LLMs: diagnosing patients using the LLM-only approach, and using the LLM-generated logic program but without expert inspection. The results show that, while LLMs are extremely useful in generating candidate logic programs, these programs still require expert inspection and modification to guarantee faithfulness to the official diagnostic manuals. Additionally, ethical concerns arise from the direct use of patient data in LLMs, underscoring the need for a safer hybrid approach like our proposed method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google