The State of the Art in Enhancing Trust in Machine Learning Models with the Use of Visualizations

要約

機械学習 (ML) モデルは現在、医学、生物情報学、その他の科学など、さまざまな分野の複雑なアプリケーションで使用されています。
ただし、ブラックボックスの性質により、提供される結果を理解して信頼することが難しい場合があります。
これにより、ML モデルの信頼性を高めることに関連する信頼性の高い視覚化ツールの需要が高まり、過去数十年にわたって視覚化コミュニティにおける顕著な研究テーマとなってきました。
概要を示し、このテーマに関する現在の研究の最前線を示すために、インタラクティブな視覚化を使用して ML モデルの信頼性を高めることに関する最先端のレポート (STAR) を紹介します。
トピックの背景を定義して説明し、この目標を達成することを目的とした視覚化手法の分類を紹介し、将来の研究の方向性に関する洞察と機会について説明します。
私たちの貢献の中には、インタラクティブ ML のさまざまな側面に対する信頼の分類があり、以前の研究から拡張および改善されました。
私たちの結果は、さまざまな分析観点から調査されます: (a) 統計的概要の提供、(b) 主要な結果の要約、(c) トピック分析の実行、(d) 個々の論文で使用されたデータセットの調査。これらはすべて、次のような支援を受けています。
インタラクティブな Web ベースの調査ブラウザ。
私たちは、この調査が、ML モデルをより信頼できるものにすることに関心を持つ視覚化研究者だけでなく、自信を持ってタスクを解決し、データに意味を伝えるのに適した効果的な視覚化手法を模索している他の分野の研究者や実践者にとっても有益であることを目指しています。

要約(オリジナル)

Machine learning (ML) models are nowadays used in complex applications in various domains, such as medicine, bioinformatics, and other sciences. Due to their black box nature, however, it may sometimes be hard to understand and trust the results they provide. This has increased the demand for reliable visualization tools related to enhancing trust in ML models, which has become a prominent topic of research in the visualization community over the past decades. To provide an overview and present the frontiers of current research on the topic, we present a State-of-the-Art Report (STAR) on enhancing trust in ML models with the use of interactive visualization. We define and describe the background of the topic, introduce a categorization for visualization techniques that aim to accomplish this goal, and discuss insights and opportunities for future research directions. Among our contributions is a categorization of trust against different facets of interactive ML, expanded and improved from previous research. Our results are investigated from different analytical perspectives: (a) providing a statistical overview, (b) summarizing key findings, (c) performing topic analyses, and (d) exploring the data sets used in the individual papers, all with the support of an interactive web-based survey browser. We intend this survey to be beneficial for visualization researchers whose interests involve making ML models more trustworthy, as well as researchers and practitioners from other disciplines in their search for effective visualization techniques suitable for solving their tasks with confidence and conveying meaning to their data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google