Supporting Data-Frame Dynamics in AI-assisted Decision Making

要約

ハイステークスの意思決定には、進化する証拠とシフト仮説との間の継続的な相互作用が必要になることがよくあります。これは、現在のAI意思決定支援システムによって十分にサポートされていないダイナミクスです。
この論文では、センスメイキングのデータフレーム理論と評価AIパラダイムに基づいたAI支援意思決定のための混合開始フレームワークを紹介します。
私たちのアプローチにより、人間とAIの両方が仮説を協力して構築し、検証し、適応させることができます。
コンセプトボトルネックモデルを活用して、解釈可能な相互作用と診断仮説への動的な更新を促進するAIアシスト皮膚がん診断プロトタイプで私たちのフレームワークを実証します。

要約(オリジナル)

High stakes decision-making often requires a continuous interplay between evolving evidence and shifting hypotheses, a dynamic that is not well supported by current AI decision support systems. In this paper, we introduce a mixed-initiative framework for AI assisted decision making that is grounded in the data-frame theory of sensemaking and the evaluative AI paradigm. Our approach enables both humans and AI to collaboratively construct, validate, and adapt hypotheses. We demonstrate our framework with an AI-assisted skin cancer diagnosis prototype that leverages a concept bottleneck model to facilitate interpretable interactions and dynamic updates to diagnostic hypotheses.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google