Explainable Answer-set Programming

要約

私たちの生活における AI のほぼ遍在的な状態と AI システムの複雑さの増大により、人工知能 (AI) における説明可能性への関心が非常に高まっています。
Answer-set Programming (ASP) は、産業最適化、知識管理、ライフ サイエンスなどの多くの分野で使用されており、説明可能性の観点から大きな関心を集めています。
したがって、将来的に問題解決パラダイムとして ASP を確実に適用して成功させるためには、ASP ソリューションの説明を調査することが重要です。
このような説明は通常、なぜ何かが、生成された決定や定式化された問題の解決策の一部ではないのかという疑問に答えを与えようとします。
ASP の説明アプローチはいくつか存在しますが、そのほとんどすべてが、実際に使用される特定の言語機能をサポートしていません。
最も注目すべき点は、これには、理論、外部計算、またはニューラル ネットワークに対する推論を可能にするために近年開発されたさまざまな ASP 拡張機能が含まれていることです。
このプロジェクトは、これらのギャップの一部を埋め、説明可能な ASP の最先端に貢献することを目的としています。
私たちは、既存のアプローチの言語サポートを拡張するだけでなく、対照的な説明のような新しい説明形式主義を開発することによって、これに取り組みます。

要約(オリジナル)

The interest in explainability in artificial intelligence (AI) is growing vastly due to the near ubiquitous state of AI in our lives and the increasing complexity of AI systems. Answer-set Programming (ASP) is used in many areas, among them are industrial optimisation, knowledge management or life sciences, and thus of great interest in the context of explainability. To ensure the successful application of ASP as a problem-solving paradigm in the future, it is thus crucial to investigate explanations for ASP solutions. Such an explanation generally tries to give an answer to the question of why something is, respectively is not, part of the decision produced or solution to the formulated problem. Although several explanation approaches for ASP exist, almost all of them lack support for certain language features that are used in practice. Most notably, this encompasses the various ASP extensions that have been developed in the recent years to enable reasoning over theories, external computations, or neural networks. This project aims to fill some of these gaps and contribute to the state of the art in explainable ASP. We tackle this by extending the language support of existing approaches but also by the development of novel explanation formalisms, like contrastive explanations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google