Dataset | Mindset = Explainable AI | Interpretable AI

要約

機械学習 (ML) の出力を支える理由を説明するために特定のデータセットにさまざまな XAI ツールを適用する場合、「説明可能な人工知能 (XAI)」と「解釈可能な AI (IAI)」を同じ意味で使用することがよくあります。
ただし、説明は客観的な事実に傾いているのに対し、解釈には主観的な意味合いが含まれることが多いため、これらの概念は時々混乱を招く可能性があります。
私たちは、XAI は IAI のサブセットであると主張します。
IAI の概念はデータセットの範囲を超えています。
それには考え方の領域も含まれます。
この曖昧さの核心にあるのは、理由の二重性であり、その中で私たちは外側に向かって推論することも、内側に向かって推論することもできます。
外側に向けられるとき、私たちはその理由が自然法則を通じて意味をなすものであることを望みます。
内に目を向けると、私たちは心の法則に従って幸せになる理由を求めます。
XAI と IAI は、倫理的 AI と信頼できる AI (TAI) の文脈における透明性、明確さ、公平性、信頼性、説明責任という目標の共通概念として理性を共有していますが、両者の違いは、XAI が事後分析を重視している点にあります。
データセットであり、IAI には抽象化の先験的な考え方が必要です。
この仮説は、オープン データセットに基づく実証実験によって証明され、ハイ パフォーマンス コンピューティング (HPC) によって利用されます。
特に医療、人事、銀行業務、金融など、多くの AI アプリケーションに対する規制ポリシーを決定することは不可能であるため、XAI と IAI の境界設定は不可欠です。
私たちは、これらの概念を明確にし、将来の AI 応用と研究における多くの実務家や政策立案者のために XAI、IAI、EAI、TAI の基礎を築くことを目指しています。

要約(オリジナル)

We often use ‘explainable’ Artificial Intelligence (XAI)’ and ‘interpretable AI (IAI)’ interchangeably when we apply various XAI tools for a given dataset to explain the reasons that underpin machine learning (ML) outputs. However, these notions can sometimes be confusing because interpretation often has a subjective connotation, while explanations lean towards objective facts. We argue that XAI is a subset of IAI. The concept of IAI is beyond the sphere of a dataset. It includes the domain of a mindset. At the core of this ambiguity is the duality of reasons, in which we can reason either outwards or inwards. When directed outwards, we want the reasons to make sense through the laws of nature. When turned inwards, we want the reasons to be happy, guided by the laws of the heart. While XAI and IAI share reason as the common notion for the goal of transparency, clarity, fairness, reliability, and accountability in the context of ethical AI and trustworthy AI (TAI), their differences lie in that XAI emphasizes the post-hoc analysis of a dataset, and IAI requires a priori mindset of abstraction. This hypothesis can be proved by empirical experiments based on an open dataset and harnessed by High-Performance Computing (HPC). The demarcation of XAI and IAI is indispensable because it would be impossible to determine regulatory policies for many AI applications, especially in healthcare, human resources, banking, and finance. We aim to clarify these notions and lay the foundation of XAI, IAI, EAI, and TAI for many practitioners and policymakers in future AI applications and research.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google