Explainable Image Similarity: Integrating Siamese Networks and Grad-CAM

要約

さまざまな分野で画像ベースのアプリケーションが普及するにつれて、正確で解釈可能な画像の類似性測定の必要性がますます重要になってきています。
既存の画像類似性モデルは透明性に欠けていることが多く、2 つの画像が類似しているとみなされる理由を理解することが困難になっています。
この論文では、説明可能な画像類似性の概念を提案します。その目的は、視覚的な事実および反事実の説明とともに類似性スコアを提供できるアプローチの開発です。
これに沿って、説明可能な画像類似性を提供するために Siamese Networks と Grad-CAM を統合する新しいフレームワークを紹介し、このアプローチを採用することの潜在的な利点と課題について説明します。
さらに、意思決定を支援するための提案されたフレームワークによって提供される事実と反事実の説明について包括的な議論を提供します。
提案されたアプローチは、現実世界の画像類似性アプリケーションにおける画像ベースのシステムの解釈可能性、信頼性、およびユーザーの受け入れを強化する可能性があります。
実装コードは https://github.com/ioannislivieris/Grad_CAM_Siamese.git にあります。

要約(オリジナル)

With the proliferation of image-based applications in various domains, the need for accurate and interpretable image similarity measures has become increasingly critical. Existing image similarity models often lack transparency, making it challenging to understand the reasons why two images are considered similar. In this paper, we propose the concept of explainable image similarity, where the goal is the development of an approach, which is capable of providing similarity scores along with visual factual and counterfactual explanations. Along this line, we present a new framework, which integrates Siamese Networks and Grad-CAM for providing explainable image similarity and discuss the potential benefits and challenges of adopting this approach. In addition, we provide a comprehensive discussion about factual and counterfactual explanations provided by the proposed framework for assisting decision making. The proposed approach has the potential to enhance the interpretability, trustworthiness and user acceptance of image-based systems in real-world image similarity applications. The implementation code can be found in https://github.com/ioannislivieris/Grad_CAM_Siamese.git.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google