From Data-Driven to Purpose-Driven Artificial Intelligence: Systems Thinking for Data-Analytic Automation of Patient Care

要約

この作業では、AI駆動型の患者ケアの自動化に基づいているデータ駆動型のモデリングパラダイムを振り返ります。
機械学習のための既存の実際の患者データセットの再利用は、患者ケアの望ましくない結果につながる可能性があるため、モデル開発への最適なアプローチを常に表しているとは限らないと主張します。
データ分析の歴史を振り返って、データ駆動型のパラダイムがどのように人気に昇格したかを説明し、システム思考と臨床ドメイン理論が、人間中心の結果に到達する際に既存のモデル開発アプローチを補完する方法を想定しています。
私たちは、臨床理論と現実世界の運用コンテキストの社会工学的現実に基づいた目的駆動型の機械学習パラダイムを求めています。
既存の患者データセットのユーティリティを理解するには、データ生成に向かって上流、自動化目標に向かって下流の2つの方向を見る必要があると主張します。
AIシステム開発に対するこの目的駆動型の視点は、新しい方法論的機会を開き、患者ケアのAI自動化の約束を保持しています。

要約(オリジナル)

In this work, we reflect on the data-driven modeling paradigm that is gaining ground in AI-driven automation of patient care. We argue that the repurposing of existing real-world patient datasets for machine learning may not always represent an optimal approach to model development as it could lead to undesirable outcomes in patient care. We reflect on the history of data analysis to explain how the data-driven paradigm rose to popularity, and we envision ways in which systems thinking and clinical domain theory could complement the existing model development approaches in reaching human-centric outcomes. We call for a purpose-driven machine learning paradigm that is grounded in clinical theory and the sociotechnical realities of real-world operational contexts. We argue that understanding the utility of existing patient datasets requires looking in two directions: upstream towards the data generation, and downstream towards the automation objectives. This purpose-driven perspective to AI system development opens up new methodological opportunities and holds promise for AI automation of patient care.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google