Neural Message Passing for Objective-Based Uncertainty Quantification and Optimal Experimental Design

要約

さまざまな実世界の科学的アプリケーションには、多数の未知のパラメーターを持つ複雑で不確実なシステムの数学的モデリングが含まれます。
このようなシステムでは、利用可能なトレーニング データが不十分であり、追加のデータを取得するコストが高くなるため、正確なパラメータ推定は実際には実行不可能であることがよくあります。
このような場合、ベイジアン パラダイムに基づいて、すべての可能なモデルにわたって最高の全体的なパフォーマンスを維持する堅牢なオペレーターを設計し、そのようなオペレーターのパフォーマンスを最大限に向上させるために不確実性を効果的に削減できる最適な実験を設計できます。
MOCU (不確実性の平均客観的コスト) に基づく目的ベースの不確実性の定量化 (objective-UQ) は、複雑なシステムの不確実性を定量化するための効果的な手段を提供しますが、MOCU を推定するための高い計算コストは​​、それを現実の世界に適用する際の課題でした。
科学/工学の問題。
この作業では、データ駆動型アプローチに基づいて、MOCU を介して客観的 UQ の計算コストを削減するための新しいスキームを提案します。
サロゲート モデリングにニューラル メッセージ パッシング モデルを採用し、推定されたシステムの不確実性の増加にペナルティを課す新しい公理的制約損失を組み込みます。
実例として、不確実な倉本モデルの最適実験計画 (OED) 問題を検討します。ここでの目標は、不確実性の低減を通じてロバストな同期パフォーマンスを最も効果的に強化できる実験を予測することです。
提案されたアプローチは、最先端技術と比較して目に見えるパフォーマンスの低下なしに、MOCU ベースの OED を 4 ~ 5 桁高速化できることを示しています。
提案されたアプローチは、倉本モデルを超えて、一般的な OED タスクに適用されます。

要約(オリジナル)

Various real-world scientific applications involve the mathematical modeling of complex uncertain systems with numerous unknown parameters. Accurate parameter estimation is often practically infeasible in such systems, as the available training data may be insufficient and the cost of acquiring additional data may be high. In such cases, based on a Bayesian paradigm, we can design robust operators retaining the best overall performance across all possible models and design optimal experiments that can effectively reduce uncertainty to enhance the performance of such operators maximally. While objective-based uncertainty quantification (objective-UQ) based on MOCU (mean objective cost of uncertainty) provides an effective means for quantifying uncertainty in complex systems, the high computational cost of estimating MOCU has been a challenge in applying it to real-world scientific/engineering problems. In this work, we propose a novel scheme to reduce the computational cost for objective-UQ via MOCU based on a data-driven approach. We adopt a neural message-passing model for surrogate modeling, incorporating a novel axiomatic constraint loss that penalizes an increase in the estimated system uncertainty. As an illustrative example, we consider the optimal experimental design (OED) problem for uncertain Kuramoto models, where the goal is to predict the experiments that can most effectively enhance robust synchronization performance through uncertainty reduction. We show that our proposed approach can accelerate MOCU-based OED by four to five orders of magnitude, without any visible performance loss compared to the state-of-the-art. The proposed approach applies to general OED tasks, beyond the Kuramoto model.

arxiv情報

著者 Qihua Chen,Xuejin Chen,Hyun-Myung Woo,Byung-Jun Yoon
発行日 2023-03-21 13:09:33+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, math.OC パーマリンク