Iterative Sketching for Secure Coded Regression

要約

この研究では、セキュリティを確保しながら、分散的に線形回帰を高速化する方法を提案します。
ランダム化されたスケッチ技術を活用し、非同期システムにおけるストラグラーの回復力を向上させます。
具体的には、ランダムな正規直交行列を適用し、 \textit{blocks} をサブサンプリングして、情報を確保し、同時に回帰問題の次元を削減します。
私たちの設定では、変換は \textit{近似勾配コーディング スキーム} でエンコードされた暗号化に対応し、サブサンプリングは非分散ワーカーの応答に対応します。
集中化されたコード化されたコンピューティング ネットワーク内で。
これにより、$\ell_2$ 部分空間埋め込みに対する分散型の \textit{反復スケッチ} アプローチが得られ、 \textit{つまり、反復ごとに新しいスケッチが考慮されます。
また、 \textit{サブサンプリングされたランダム化アダマール変換} の特殊なケースにも焦点を当てます。これをブロック サンプリングに一般化します。
データを保護するためにどのように変更できるかを話し合います。

要約(オリジナル)

In this work, we propose methods for speeding up linear regression distributively, while ensuring security. We leverage randomized sketching techniques, and improve straggler resilience in asynchronous systems. Specifically, we apply a random orthonormal matrix and then subsample \textit{blocks}, to simultaneously secure the information and reduce the dimension of the regression problem. In our setup, the transformation corresponds to an encoded encryption in an \textit{approximate gradient coding scheme}, and the subsampling corresponds to the responses of the non-straggling workers; in a centralized coded computing network. This results in a distributive \textit{iterative sketching} approach for an $\ell_2$-subspace embedding, \textit{i.e.} a new sketch is considered at each iteration. We also focus on the special case of the \textit{Subsampled Randomized Hadamard Transform}, which we generalize to block sampling; and discuss how it can be modified in order to secure the data.

arxiv情報

著者 Neophytos Charalambides,Hessam Mahdavifar,Mert Pilanci,Alfred O. Hero III
発行日 2023-08-08 11:10:42+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: 65B99, 68P20, 68P25, 68P27, 68P30, 94-10, 94A11, 94A16, 94B60, cs.CR, cs.DC, cs.IT, cs.LG, cs.NA, E.3; E.4; F.2.1; G.1.3, math.IT, math.NA パーマリンク