The Fire Thief Is Also the Keeper: Balancing Usability and Privacy in Prompts

要約

オンライン チャットボットの急速な導入は、人工知能の大幅な進歩を表しています。
ただし、この利便性は、大規模言語モデル (LLM) に公開される機密情報をプロンプトに誤って含める可能性があるため、プライバシーに関する重大な懸念を引き起こします。
高い計算コスト、タスクのユーザビリティの低下、過度のシステム変更によって制限されているため、ローカル展開、組み込み摂動、および準同型暗号化に基づいた以前の作業は、オンライン プロンプト ベースの LLM アプリケーションには適用できません。
これらの問題に対処するために、この文書では、タスクの使いやすさと人間の可読性を維持しながら、コンテキスト プライバシーが削除された匿名化されたプロンプトを生成できる、エンドツーエンドのプロンプト プライバシー保護フレームワークである Prompt Privacy Sanitizer (つまり、ProSan) を紹介します。
オンライン LLM サービス パイプラインにシームレスに統合することもできます。
高いユーザビリティと動的な匿名性を実現するために、ProSan は、言葉の重要性とプロンプトのプライバシー漏洩リスクに基づいて、保護対象と強度を柔軟に調整します。
さらに、ProSan はさまざまな計算リソース条件に適応することができ、計算能力が限られたモバイル デバイスであってもプライバシーを確​​実に保護します。
私たちの実験では、ProSan がタスクのパフォーマンスの低下を最小限に抑えながら、質問応答、テキストの要約、コード生成などのさまざまなタスクにわたって個人情報を効果的に削除することが実証されました。

要約(オリジナル)

The rapid adoption of online chatbots represents a significant advancement in artificial intelligence. However, this convenience brings considerable privacy concerns, as prompts can inadvertently contain sensitive information exposed to large language models (LLMs). Limited by high computational costs, reduced task usability, and excessive system modifications, previous works based on local deployment, embedding perturbation, and homomorphic encryption are inapplicable to online prompt-based LLM applications. To address these issues, this paper introduces Prompt Privacy Sanitizer (i.e., ProSan), an end-to-end prompt privacy protection framework that can produce anonymized prompts with contextual privacy removed while maintaining task usability and human readability. It can also be seamlessly integrated into the online LLM service pipeline. To achieve high usability and dynamic anonymity, ProSan flexibly adjusts its protection targets and strength based on the importance of the words and the privacy leakage risk of the prompts. Additionally, ProSan is capable of adapting to diverse computational resource conditions, ensuring privacy protection even for mobile devices with limited computing power. Our experiments demonstrate that ProSan effectively removes private information across various tasks, including question answering, text summarization, and code generation, with minimal reduction in task performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google