From Military to Healthcare: Adopting and Expanding Ethical Principles for Generative Artificial Intelligence

要約

2020年、米国防総省は、将来の戦場における人工知能（AI）技術の使用を導くための一連の倫理原則を公式に公表した。大きな違いはあるものの、軍隊と医療サービスには核となる共通点がある。戦場の兵士たちは、しばしば迅速な意思決定を必要とする生命を左右する状況に直面する。医療従事者は、救急外来や生命を脅かす病態を治療する手術中など、急速に変化する医療環境の中で同様の課題を経験する。価値ある情報を効率的に生成するように設計された新たな技術であるジェネレーティブAIは、大きな可能性を秘めている。コンピューティング・パワーがより利用しやすくなり、電子カルテ、心電図、医療画像などの健康データが豊富になるにつれて、医療がこの技術によって変革されることは避けられない。近年、ジェネレーティブAIは研究界を魅了し、主に透明性や関連する問題への懸念から、ヘルスケアへの応用に関する議論につながっている。一方、モデリングの偏りによる健康格差の潜在的な悪化に関する懸念は、医療におけるこの技術の使用に関して顕著な倫理的懸念を提起している。しかし、医療における生成AIの倫理原則は十分に研究されておらず、意思決定者は生成AIの意義を考慮しないことが多い。本稿では、医療における生成AIのために、ガバナンス、信頼性、公平性、説明責任、追跡可能性、プライバシー、適法性、共感、自律性を包含するGREAT PLEA倫理原則を提案する。医療における生成AIの統合がもたらす倫理的ジレンマと課題に積極的に取り組むことを目指す。

要約(オリジナル)

In 2020, the U.S. Department of Defense officially disclosed a set of ethical principles to guide the use of Artificial Intelligence (AI) technologies on future battlefields. Despite stark differences, there are core similarities between the military and medical service. Warriors on battlefields often face life-altering circumstances that require quick decision-making. Medical providers experience similar challenges in a rapidly changing healthcare environment, such as in the emergency department or during surgery treating a life-threatening condition. Generative AI, an emerging technology designed to efficiently generate valuable information, holds great promise. As computing power becomes more accessible and the abundance of health data, such as electronic health records, electrocardiograms, and medical images, increases, it is inevitable that healthcare will be revolutionized by this technology. Recently, generative AI has captivated the research community, leading to debates about its application in healthcare, mainly due to concerns about transparency and related issues. Meanwhile, concerns about the potential exacerbation of health disparities due to modeling biases have raised notable ethical concerns regarding the use of this technology in healthcare. However, the ethical principles for generative AI in healthcare have been understudied, and decision-makers often fail to consider the significance of generative AI. In this paper, we propose GREAT PLEA ethical principles, encompassing governance, reliability, equity, accountability, traceability, privacy, lawfulness, empathy, and autonomy, for generative AI in healthcare. We aim to proactively address the ethical dilemmas and challenges posed by the integration of generative AI in healthcare.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL