Understanding Frontline Workers’ and Unhoused Individuals’ Perspectives on AI Used in Homeless Services

要約

近年、ホームレス サービスにおける AI ベースの意思決定支援システム (ADS) の採用が増えていますが、その使用に関する利害関係者の要望や懸念についてはほとんどわかっていません。
この作業では、限られた住宅資源を優先する展開された ADS について、影響を受ける利害関係者の視点を理解することを目的としています。
AI ライフサイクル コミックボーディング (コミックボーディング手法の適応バージョン) を採用して、AI システムの設計のさまざまなコンポーネントにわたって利害関係者のフィードバックと設計のアイデアを引き出しました。
私たちは、毎日 ADS を運用している郡の労働者、ADS によって仕事が直接影響を受けるサービス プロバイダー、および地域の非居住者からフィードバックを引き出しました。
参加者は、AI システムの全体的な目的、特定のモデル設計の選択、データセットの選択、展開での使用に関する懸念と設計の提案を共有しました。
私たちの調査結果は、利害関係者は、AI の知識がなくても、権限があれば、AI システムの設計と展開に関する具体的かつ重要なフィードバックを提供できることを示しています。

要約(オリジナル)

Recent years have seen growing adoption of AI-based decision-support systems (ADS) in homeless services, yet we know little about stakeholder desires and concerns surrounding their use. In this work, we aim to understand impacted stakeholders’ perspectives on a deployed ADS that prioritizes scarce housing resources. We employed AI lifecycle comicboarding, an adapted version of the comicboarding method, to elicit stakeholder feedback and design ideas across various components of an AI system’s design. We elicited feedback from county workers who operate the ADS daily, service providers whose work is directly impacted by the ADS, and unhoused individuals in the region. Our participants shared concerns and design suggestions around the AI system’s overall objective, specific model design choices, dataset selection, and use in deployment. Our findings demonstrate that stakeholders, even without AI knowledge, can provide specific and critical feedback on an AI system’s design and deployment, if empowered to do so.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google