Leveraging ASIC AI Chips for Homomorphic Encryption

要約

クラウドベースのサービスは、機密性の高いクライアントデータのアウトソーシングをますます一般的にしています。
同音異常(HE)は強力なプライバシー保証を提供しますが、プレーンテキストでの計算よりもかなり多くのリソースが必要であり、多くの場合、結果を得るのに容認できないほど大きな潜在性につながります。
彼の加速器は、この潜伏期の問題を軽減するために現れましたが、ASICのコストが高くなりました。
この論文では、彼のプリミティブをAI演算子に変換し、既存のASIC AI加速器(すでにクラウドに広く展開されているTPU)に加速できることを示しています。
彼のためにこのような加速器を適応させるには、(1)モジュラー乗算、(2)ソフトウェアの高精度算術、および(3)マトリックスエンジンの効率的なマッピングをサポートする必要があります。
クロスコンパイラ(1)を導入してバレット削減を採用して、乗数とアダーを使用したモジュール削減サポートを提供します。
エンジン。
Google TPUV4でのCrossの評価は、多くのコアCPUおよびV100の以前の研究と比較して、最大161倍および5倍のスピードアップで、大幅なパフォーマンスの改善を示しています。
カーネルレベルのコードは、https://github.com/google/jaxite/tree/main/jaxite_wordでオープンソースを販売しています。

要約(オリジナル)

Cloud-based services are making the outsourcing of sensitive client data increasingly common. Although homomorphic encryption (HE) offers strong privacy guarantee, it requires substantially more resources than computing on plaintext, often leading to unacceptably large latencies in getting the results. HE accelerators have emerged to mitigate this latency issue, but with the high cost of ASICs. In this paper we show that HE primitives can be converted to AI operators and accelerated on existing ASIC AI accelerators, like TPUs, which are already widely deployed in the cloud. Adapting such accelerators for HE requires (1) supporting modular multiplication, (2) high-precision arithmetic in software, and (3) efficient mapping on matrix engines. We introduce the CROSS compiler (1) to adopt Barrett reduction to provide modular reduction support using multiplier and adder, (2) Basis Aligned Transformation (BAT) to convert high-precision multiplication as low-precision matrix-vector multiplication, (3) Matrix Aligned Transformation (MAT) to covert vectorized modular operation with reduction into matrix multiplication that can be efficiently processed on 2D spatial matrix engine. Our evaluation of CROSS on a Google TPUv4 demonstrates significant performance improvements, with up to 161x and 5x speedup compared to the previous work on many-core CPUs and V100. The kernel-level codes are open-sourced at https://github.com/google/jaxite/tree/main/jaxite_word.

arxiv情報

著者 Jianming Tong,Tianhao Huang,Leo de Castro,Anirudh Itagi,Jingtian Dang,Anupam Golder,Asra Ali,Jevin Jiang,Arvind,G. Edward Suh,Tushar Krishna
発行日 2025-03-28 14:24:35+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AR, cs.CL, cs.CR, cs.PL パーマリンク