Guiding the generation of counterfactual explanations through temporal background knowledge for Predictive Process Monitoring

要約

反事実的な説明は、AI システムの結果を変えるために入力インスタンスで何が異なるべきかを示唆しています。
ただし、予測プロセス監視の分野で反事実の説明を扱う場合は、イベント間の制御フローの関係を慎重に考慮する必要があります。
確かに、反事実は、アクティビティ間の制御フロー関係 (時間的背景知識) に違反すべきではありません。
予測プロセス監視における説明可能性の分野では、結果ベースの予測に対する反事実の説明に関する一連の研究が行われてきました。
しかし、それらのどれも、これらの反事実を生成する際に時間的背景知識を含めることを考慮していません。
この研究では、実行時に一連の時間的制約を考慮するために、遺伝的アルゴリズムに基づく XAI の領域での反事実生成のための最先端の技術を採用しています。
この時間的な背景知識が与えられていると仮定し、制約の満足を維持するために適合度関数、および交差演算子と突然変異演算子を適応させます。
提案された方法は、反事実生成のための最先端の遺伝的アルゴリズムに関して評価され、結果が提示されます。
時間的背景知識を含めることにより、反事実の従来の品質指標を失うことなく、時間的背景知識により適合した反事実を生成できることを示します。

要約(オリジナル)

Counterfactual explanations suggest what should be different in the input instance to change the outcome of an AI system. When dealing with counterfactual explanations in the field of Predictive Process Monitoring, however, control flow relationships among events have to be carefully considered. A counterfactual, indeed, should not violate control flow relationships among activities (temporal background knowledege). Within the field of Explainability in Predictive Process Monitoring, there have been a series of works regarding counterfactual explanations for outcome-based predictions. However, none of them consider the inclusion of temporal background knowledge when generating these counterfactuals. In this work, we adapt state-of-the-art techniques for counterfactual generation in the domain of XAI that are based on genetic algorithms to consider a series of temporal constraints at runtime. We assume that this temporal background knowledge is given, and we adapt the fitness function, as well as the crossover and mutation operators, to maintain the satisfaction of the constraints. The proposed methods are evaluated with respect to state-of-the-art genetic algorithms for counterfactual generation and the results are presented. We showcase that the inclusion of temporal background knowledge allows the generation of counterfactuals more conformant to the temporal background knowledge, without however losing in terms of the counterfactual traditional quality metrics.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google