Nutrition Facts, Drug Facts, and Model Facts: Putting AI Ethics into Practice in Gun Violence Research

要約

目的: 銃による傷害の研究には、頻繁に搾取されやすい黒人および褐色系アメリカ人のデータを使用する必要があります。
不信感を最小限に抑えるために、この研究は一般住民との AI の信頼と透明性を確立するためのフレームワークを提供します。
方法: 簡単に拡張可能で、精度と人口統計を標準化された最小限の複雑さの値に分解する Model Facts テンプレートを提案します。
このフレームワークを使用すると、一般ユーザーが技術的なモデルのドキュメントに飛び込むことなく、モデルの妥当性とバイアスを評価できます。
例: Model Facts テンプレートを、以前に公開された 2 つのモデル、暴力リスク特定モデルと自殺リスク予測モデルに適用します。
データが適切に構造化されている場合、適切な情報に簡単にアクセスできることを示します。
議論: Model Facts テンプレートは、現在の形式では人間ベースのデータとバイアスに限定されています。
栄養成分表示と同様に、ユーザーがその有用性を完全に理解するには、ある程度の教育リソースも必要になります。
ユーザー インターフェイスとモデル インターフェイス間の相互作用が期待通りであることを確認するために、ヒューマン コンピューターの相互作用実験を実施する必要があります。
結論: Model Facts ラベルは、エンド ユーザーおよび一般消費者との信頼を確立することに特化した最初のフレームワークです。
モデルファクトを銃器傷害研究に導入することで、公衆衛生従事者や銃器傷害の影響を受ける人々に、研究が提供するツールに対するより大きな信頼を与えるでしょう。

要約(オリジナル)

Objective: Firearm injury research necessitates using data from often-exploited vulnerable populations of Black and Brown Americans. In order to minimize distrust, this study provides a framework for establishing AI trust and transparency with the general population. Methods: We propose a Model Facts template that is easily extendable and decomposes accuracy and demographics into standardized and minimally complex values. This framework allows general users to assess the validity and biases of a model without diving into technical model documentation. Examples: We apply the Model Facts template on two previously published models, a violence risk identification model and a suicide risk prediction model. We demonstrate the ease of accessing the appropriate information when the data is structured appropriately. Discussion: The Model Facts template is limited in its current form to human based data and biases. Like nutrition facts, it also will require some educational resources for users to grasp its full utility. Human computer interaction experiments should be conducted to ensure that the interaction between user interface and model interface is as desired. Conclusion: The Model Facts label is the first framework dedicated to establishing trust with end users and general population consumers. Implementation of Model Facts into firearm injury research will provide public health practitioners and those impacted by firearm injury greater faith in the tools the research provides.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google