Towards Explainable and Safe Conversational Agents for Mental Health: A Survey

要約

タイトル：メンタルヘルスのための説明可能で安全な会話エージェントに向けて：サーベイ

要約：

– 仮想メンタルヘルスアシスタント（VMHA）は、年間6000万件の初診医療訪問と600万件の救急ルーム訪問を受ける過負荷のグローバル医療システムを支援するために、認知行動療法（CBT）のために臨床心理学者、精神科医、および人工知能（AI）研究者によって構築されています。
– 現在、VMHAの役割は患者との反省的な会話よりも情報による感情的サポートを提供することです。
– 今後、VMHAは適切なフォローアップの質問を行ったり、インフォームドな返答を提供するために、より包括的で安全で説明可能なアプローチが必要です。
– このサーベイは、メンタルヘルス分野における既存の会話エージェントについての体系的な批判的レビューに続いて、コンテキスト知識、データセット、および臨床判断支援における役割の新しい洞察を提供し、VMHAのユーザーエクスペリエンスを説明可能性、安全性、および全体的な信頼性の向上方向へ導きます。
– 最後に、VMHAと患者との積極的なコミュニケーションの中で、VMHAと患者の間に信頼を構築するための評価基準と実用的な考慮事項を提供します。

要約(オリジナル)

Virtual Mental Health Assistants (VMHAs) are seeing continual advancements to support the overburdened global healthcare system that gets 60 million primary care visits, and 6 million Emergency Room (ER) visits annually. These systems are built by clinical psychologists, psychiatrists, and Artificial Intelligence (AI) researchers for Cognitive Behavioral Therapy (CBT). At present, the role of VMHAs is to provide emotional support through information, focusing less on developing a reflective conversation with the patient. A more comprehensive, safe and explainable approach is required to build responsible VMHAs to ask follow-up questions or provide a well-informed response. This survey offers a systematic critical review of the existing conversational agents in mental health, followed by new insights into the improvements of VMHAs with contextual knowledge, datasets, and their emerging role in clinical decision support. We also provide new directions toward enriching the user experience of VMHAs with explainability, safety, and wholesome trustworthiness. Finally, we provide evaluation metrics and practical considerations for VMHAs beyond the current literature to build trust between VMHAs and patients in active communications.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI