Explainable Bayesian Optimization

要約

サイバー物理システムの手動パラメーターチューニングは一般的な慣行ですが、労働集約型です。
Bayesian Optimization（BO）は自動化された代替品を提供しますが、そのブラックボックスの性質は信頼を削減し、人間-BOの共同システムの調整を制限します。
専門家は、説明がないため、BOの推奨事項を解釈するのに苦労しています。
このペーパーでは、サイバー物理システムの事後のBO説明可能性の問題について説明します。
TNTRULE（Tune-No-Tuneルール）を紹介します。これは、BOの推奨事項についてグローバルな説明とローカルの両方の説明を提供する新しいアルゴリズムです。
TNTRULEは、実用的なルールと視覚グラフを生成し、最適なソリューションの境界と範囲、および潜在的な代替ソリューションを識別します。
既存の説明可能なAI（XAI）メソッドとは異なり、TNTRULEは、分散剪定技術と階層的凝集クラスタリングを介して不確実性をエンコードすることにより、BO専用に調整されています。
多目的最適化アプローチにより、説明の品質を最大化できます。
確立されたXaiメトリック（正確性、完全性、コンパクトさ）を使用してTNTRULEを評価し、適応したベースライン方法と比較します。
結果は、TNTRULEが高忠実度、コンパクト、および完全な説明を生成し、5つの多目的テスト機能と2つのハイパーパラメーターチューニングの問題に関する3つのベースラインを大幅に上回ることを示しています。

要約(オリジナル)

Manual parameter tuning of cyber-physical systems is a common practice, but it is labor-intensive. Bayesian Optimization (BO) offers an automated alternative, yet its black-box nature reduces trust and limits human-BO collaborative system tuning. Experts struggle to interpret BO recommendations due to the lack of explanations. This paper addresses the post-hoc BO explainability problem for cyber-physical systems. We introduce TNTRules (Tune-No-Tune Rules), a novel algorithm that provides both global and local explanations for BO recommendations. TNTRules generates actionable rules and visual graphs, identifying optimal solution bounds and ranges, as well as potential alternative solutions. Unlike existing explainable AI (XAI) methods, TNTRules is tailored specifically for BO, by encoding uncertainty via a variance pruning technique and hierarchical agglomerative clustering. A multi-objective optimization approach allows maximizing explanation quality. We evaluate TNTRules using established XAI metrics (Correctness, Completeness, and Compactness) and compare it against adapted baseline methods. The results demonstrate that TNTRules generates high-fidelity, compact, and complete explanations, significantly outperforming three baselines on 5 multi-objective testing functions and 2 hyperparameter tuning problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google