The case for delegated AI autonomy for Human AI teaming in healthcare

要約

この論文では、人工知能（AI）をヘルスケアに統合するための高度なアプローチ：自律的な意思決定支援を提案します。
このアプローチにより、AIアルゴリズムは、定義された委任基準に基づいて、患者症例の他のサブセットで支持的な役割を果たしながら、患者症例のサブセットに対して自律的に行​​動することができます。
人間とAIの両方の補完的な強さを活用することにより、既存の人間とAIのチーム化モデルよりも全体的なパフォーマンスを提供することを目指しています。
AIツールの制限に留意しながら、患者の症例の安全な取り扱いを保証し、臨床医のレビュー時間を短縮する可能性があります。
現在のヒューマンAIチームモデルのコンテキスト内でアプローチを設定した後、委任基準の概要を説明し、組織病理学で使用される特定のAIベースのツールにそれらを適用します。
その後、そのアプローチの潜在的な影響と、その実装を成功させるための規制要件について説明します。

要約(オリジナル)

In this paper we propose an advanced approach to integrating artificial intelligence (AI) into healthcare: autonomous decision support. This approach allows the AI algorithm to act autonomously for a subset of patient cases whilst serving a supportive role in other subsets of patient cases based on defined delegation criteria. By leveraging the complementary strengths of both humans and AI, it aims to deliver greater overall performance than existing human-AI teaming models. It ensures safe handling of patient cases and potentially reduces clinician review time, whilst being mindful of AI tool limitations. After setting the approach within the context of current human-AI teaming models, we outline the delegation criteria and apply them to a specific AI-based tool used in histopathology. The potential impact of the approach and the regulatory requirements for its successful implementation are then discussed.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google