Privacy Risks and Preservation Methods in Explainable Artificial Intelligence: A Scoping Review

要約

説明可能な人工知能（XAI）は、信頼できるAIの柱として登場し、本来不透明である複雑なモデルに透明性をもたらすことを目指している。モデルに説明を組み込むことの利点にもかかわらず、この追加情報をエンドユーザーに提供することによるプライバシーの懸念に対処することが急務である。この論文では、プライバシーと説明可能性の間の対立の詳細を引き出すために、既存文献のスコーピングレビューを実施する。スコーピングレビューの標準的な手法を用い、2019年1月から2024年12月までに発表された1,943件の研究から57件の論文を抽出した。このレビューでは、読者にトピックに関するより深い理解を提示するため、3つのリサーチクエスチョンを取り上げている：(1)AIシステムにおいて説明を公開することのプライバシーリスクは何か？(2) XAIシステムにおいてプライバシー保護を実現するために、研究者は現在どのような方法を採用しているか？(3) プライバシーの保護された説明とは何か？選択された研究から統合された知識に基づいて、XAIにおけるプライバシーリスクと保全方法を分類し、プライバシーを遵守するXAIの要件を理解する上で研究者と実務者を支援するために、プライバシーを保全する説明の特徴を提案する。最後に、プライバシーと他のシステム要件とのバランスを取る上での課題を明らかにし、プライバシーを保護するXAIを実現するための提言を行う。このレビューが、プライバシーと説明可能性の複雑な関係に光を当てることを期待している。

要約(オリジナル)

Explainable Artificial Intelligence (XAI) has emerged as a pillar of Trustworthy AI and aims to bring transparency in complex models that are opaque by nature. Despite the benefits of incorporating explanations in models, an urgent need is found in addressing the privacy concerns of providing this additional information to end users. In this article, we conduct a scoping review of existing literature to elicit details on the conflict between privacy and explainability. Using the standard methodology for scoping review, we extracted 57 articles from 1,943 studies published from January 2019 to December 2024. The review addresses 3 research questions to present readers with more understanding of the topic: (1) what are the privacy risks of releasing explanations in AI systems? (2) what current methods have researchers employed to achieve privacy preservation in XAI systems? (3) what constitutes a privacy preserving explanation? Based on the knowledge synthesized from the selected studies, we categorize the privacy risks and preservation methods in XAI and propose the characteristics of privacy preserving explanations to aid researchers and practitioners in understanding the requirements of XAI that is privacy compliant. Lastly, we identify the challenges in balancing privacy with other system desiderata and provide recommendations for achieving privacy preserving XAI. We expect that this review will shed light on the complex relationship of privacy and explainability, both being the fundamental principles of Trustworthy AI.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL