Explainable artificial intelligence approaches for brain-computer interfaces: a review and design space

要約

このレビュー ペーパーは、ブレイン コンピューター インターフェイスに適用される説明可能な人工知能技術の統合的な観点を提供します。
BCI は、予測モデルを使用して、さまざまなリスクの高いアプリケーションの脳信号を解釈します。
ただし、これらの複雑なモデルで説明可能性を達成することは、精度を損なうため困難です。
XAI の分野は、さまざまな利害関係者にわたる説明可能性のニーズに対処するために登場しましたが、BCI 用 XAI (XAI4BCI) の文献には統合された視点が不足しています。
この文脈では、説明可能性、解釈可能性、理解などの重要な概念を区別し、包括的な枠組みを策定する必要があります。
BCI における XAI の必要性を理解するために、その目的、アプリケーション、使いやすさ、技術的な実現可能性を含む、系統的レビューとメタ分析のために 6 つの重要な研究課題を提示します。
当社では PRISMA 手法を採用しています。これは、重要な洞察を得るために 2015 年以降に発表された研究をレビュー (n=1246) および分析 (n=84) するための体系的レビューとメタ分析に推奨される報告項目です。
この結果は、現在の研究が結果を正当化し、モデルのパフォーマンスを向上させることを目的として、主に開発者や研究者にとっての解釈可能性に焦点を当てていることを浮き彫りにしています。
文献から XAI4BCI の独自のアプローチ、利点、制限について説明します。
私たちは哲学、心理学、社会科学から洞察を引き出します。
BCI の開発および導入ライフサイクルにおけるさまざまな関係者向けにカスタマイズされた予測モデルの結果を視覚化および調査するニーズの高まりを考慮して、XAI4BCI の設計空間を提案します。
この論文は、XAI4BCI 研究論文のレビューのみに焦点を当てた初めての論文です。
提案された設計空間に関するこの体系的レビューとメタ分析の結果は、BCI 説明の標準の確立、現在の限界の強調、BCI における XAI の将来の指針に関する重要な議論を促します。

要約(オリジナル)

This review paper provides an integrated perspective of Explainable Artificial Intelligence techniques applied to Brain-Computer Interfaces. BCIs use predictive models to interpret brain signals for various high-stake applications. However, achieving explainability in these complex models is challenging as it compromises accuracy. The field of XAI has emerged to address the need for explainability across various stakeholders, but there is a lack of an integrated perspective in XAI for BCI (XAI4BCI) literature. It is necessary to differentiate key concepts like explainability, interpretability, and understanding in this context and formulate a comprehensive framework. To understand the need of XAI for BCI, we pose six key research questions for a systematic review and meta-analysis, encompassing its purposes, applications, usability, and technical feasibility. We employ the PRISMA methodology — preferred reporting items for systematic reviews and meta-analyses to review (n=1246) and analyze (n=84) studies published in 2015 and onwards for key insights. The results highlight that current research primarily focuses on interpretability for developers and researchers, aiming to justify outcomes and enhance model performance. We discuss the unique approaches, advantages, and limitations of XAI4BCI from the literature. We draw insights from philosophy, psychology, and social sciences. We propose a design space for XAI4BCI, considering the evolving need to visualize and investigate predictive model outcomes customised for various stakeholders in the BCI development and deployment lifecycle. This paper is the first to focus solely on reviewing XAI4BCI research articles. This systematic review and meta-analysis findings with the proposed design space prompt important discussions on establishing standards for BCI explanations, highlighting current limitations, and guiding the future of XAI in BCI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google