Explanation-Driven Interventions for Artificial Intelligence Model Customization: Empowering End-Users to Tailor Black-Box AI in Rhinocytology

要約

現代社会における人工知能（AI）の統合は、個人がタスクをどのように実行するかを変えています。
リスクの高いドメインでは、AIシステムに対する人間の制御を確保することは、依然として重要な設計上の課題です。
この記事では、ブラックボックスAIモデルの新しいエンドユーザー開発（EUD）アプローチを紹介し、ユーザーが説明を編集し、ターゲットを絞った介入を通じて将来の予測に影響を与えることができます。
説明可能性、ユーザー制御、およびモデルの適応性を組み合わせることにより、提案された方法は、人間中心のAI（HCAI）を進め、人間と適応型のユーザーに調整されたAIシステムとの共生関係を促進します。

要約(オリジナル)

The integration of Artificial Intelligence (AI) in modern society is transforming how individuals perform tasks. In high-risk domains, ensuring human control over AI systems remains a key design challenge. This article presents a novel End-User Development (EUD) approach for black-box AI models, enabling users to edit explanations and influence future predictions through targeted interventions. By combining explainability, user control, and model adaptability, the proposed method advances Human-Centered AI (HCAI), promoting a symbiotic relationship between humans and adaptive, user-tailored AI systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google