Secure PAC Bayesian Regression via Real Shamir Secret Sharing

要約

タイトル：シャミア秘密分散を使った安全なPACベイジアン回帰
要約：
– 機械学習やシステム識別の一般的な手法は、トレーニングデータによってモデルを生成し、テストデータの予測を可能な限り正確に行うことです。
– しかし、データプライバシーに関する懸念が高まっているにもかかわらず、対処されることはほとんどありません。
– 我々は、最近説明されたリアルナンバーシークレットシェアリングという技術に依存する線形モデルを学習するための安全なプロトコルを提供します。
– PACベイジアン境界を出発点にして、データとPACベイジアン境界の事前分布に依存するモデルパラメータの閉形式を導出しました。
– モデルパラメータを取得するには、線形システムを解く必要があります。しかし、複数のパーティが異なるデータインスタンスを保持しており、データのプライバシーを侵害することなく、線形回帰を安全に解決する方法を提案します。
– 実数のシークレットシェアリングと多者計算を使用することを提案し、安全な逆法と安全なガウス消去法の2つの方法を提案し、最後にこれらの方法を比較します。
– 実数に直接シークレットシェアリングを使用する利点は、プロトコルのシンプルさと必要なラウンド数に反映されます。ただし、この利点には、共有が少しの情報を漏らす可能性があるという欠点があります。しかし、我々の分析では、漏洩は小さいと主張しています。

要約(オリジナル)

A common approach of system identification and machine learning is to generate a model by using training data to predict the test data instances as accurate as possible. Nonetheless, concerns about data privacy are increasingly raised, but not always addressed. We present a secure protocol for learning a linear model relying on recently described technique called real number secret sharing. We take as our starting point the PAC Bayesian bounds and deduce a closed form for the model parameters which depends on the data and the prior from the PAC Bayesian bounds. To obtain the model parameters one needs to solve a linear system. However, we consider the situation where several parties hold different data instances and they are not willing to give up the privacy of the data. Hence, we suggest to use real number secret sharing and multiparty computation to share the data and solve the linear regression in a secure way without violating the privacy of data. We suggest two methods; a secure inverse method and a secure Gaussian elimination method, and compare these methods at the end. The benefit of using secret sharing directly on real numbers is reflected in the simplicity of the protocols and the number of rounds needed. However, this comes with the drawback that a share might leak a small amount of information, but in our analysis we argue that the leakage is small.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI