Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians

要約

多変量ガウス分布は、無数のオペレーション リサーチ、意思決定分析、機械学習モデル (ベイズ最適化、ガウス影響図、変分オートエンコーダーなど) を支えています。
しかし、敵対的機械学習 (AML) の最近の進歩にもかかわらず、敵対者の存在下でのガウス モデルの推論は著しく研究が進んでいません。
したがって、一連の証拠変数を破壊することで、意思決定者の条件付き推論とその後のアクションを妨害しようとする利己的な攻撃者を考えます。
検出を避けるために、攻撃者は攻撃がもっともらしく見えることも望みますが、もっともらしさは破損した証拠の密度によって決まります。
私たちは、攻撃者が意思決定者の基礎となる多変量ガウス分布についてそれぞれ完全な知識と不完全な知識を持っているように、ホワイト ボックスとグレー ボックスの設定を検討します。
選択されたインスタンスは二次プログラムおよび確率二次プログラムに還元されることが示され、構造特性が導出され、解法を知らせます。
不動産評価、金利推定、信号処理などの 3 つの例で、これらの攻撃の影響と有効性を評価します。
各例では代替の基礎となるモデルを利用しているため、攻撃の幅広い適用可能性が強調されています。
これらのアプリケーションを通じて、ホワイトボックス攻撃とグレーボックス攻撃の動作を並べて、不確実性と構造が攻撃者の動作にどのような影響を与えるかを理解します。

要約(オリジナル)

The multivariate Gaussian distribution underpins myriad operations-research, decision-analytic, and machine-learning models (e.g., Bayesian optimization, Gaussian influence diagrams, and variational autoencoders). However, despite recent advances in adversarial machine learning (AML), inference for Gaussian models in the presence of an adversary is notably understudied. Therefore, we consider a self-interested attacker who wishes to disrupt a decisionmaker’s conditional inference and subsequent actions by corrupting a set of evidentiary variables. To avoid detection, the attacker also desires the attack to appear plausible wherein plausibility is determined by the density of the corrupted evidence. We consider white- and grey-box settings such that the attacker has complete and incomplete knowledge about the decisionmaker’s underlying multivariate Gaussian distribution, respectively. Select instances are shown to reduce to quadratic and stochastic quadratic programs, and structural properties are derived to inform solution methods. We assess the impact and efficacy of these attacks in three examples, including, real estate evaluation, interest rate estimation and signals processing. Each example leverages an alternative underlying model, thereby highlighting the attacks’ broad applicability. Through these applications, we also juxtapose the behavior of the white- and grey-box attacks to understand how uncertainty and structure affect attacker behavior.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google