Trusted Machine Learning Models Unlock Private Inference for Problems Currently Infeasible with Cryptography

要約

私たちは信頼できない相手とやり取りすることがよくあります。
特定の目標を達成するにはプライベート データの共有が必要となるため、プライバシーを優先すると、これらのやり取りの有効性が制限される可能性があります。
従来、この課題に対処するには、信頼できる仲介者を探すか、マルチパーティ計算やゼロ知識証明など、公開されるデータの量を制限する暗号プロトコルを構築する必要がありました。
暗号化アプローチのスケーリングは大幅に進歩しましたが、使用できるアプリケーションのサイズと複雑さの点では依然として制限があります。
この論文では、有能な機械学習モデルが信頼できるサードパーティの役割を果たすことができるため、これまで実現不可能であったアプリケーションの安全な計算が可能になると主張します。
特に、安全な計算をスケーリングするための代替アプローチとして、信頼できるモデル環境 (TCME) について説明します。TCME では、有能な機械学習モデルが、明示的な情報フロー制御と明示的なステートレス性を備え、入出力制約の下で相互作用します。
このアプローチは、プライバシーと計算効率の間のバランスを達成することを目的としており、従来の暗号ソリューションが現在実行不可能であるプライベート推論を可能にします。
TCME によって可能になる多くのユースケースについて説明し、単純な古典的な暗号の問題さえも TCME ですでに解決できることを示します。
最後に、現在の制限について概説し、それらを実装する際の今後の方向性について説明します。

要約(オリジナル)

We often interact with untrusted parties. Prioritization of privacy can limit the effectiveness of these interactions, as achieving certain goals necessitates sharing private data. Traditionally, addressing this challenge has involved either seeking trusted intermediaries or constructing cryptographic protocols that restrict how much data is revealed, such as multi-party computations or zero-knowledge proofs. While significant advances have been made in scaling cryptographic approaches, they remain limited in terms of the size and complexity of applications they can be used for. In this paper, we argue that capable machine learning models can fulfill the role of a trusted third party, thus enabling secure computations for applications that were previously infeasible. In particular, we describe Trusted Capable Model Environments (TCMEs) as an alternative approach for scaling secure computation, where capable machine learning model(s) interact under input/output constraints, with explicit information flow control and explicit statelessness. This approach aims to achieve a balance between privacy and computational efficiency, enabling private inference where classical cryptographic solutions are currently infeasible. We describe a number of use cases that are enabled by TCME, and show that even some simple classic cryptographic problems can already be solved with TCME. Finally, we outline current limitations and discuss the path forward in implementing them.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google