Group Decision-Making among Privacy-Aware Agents

要約

プライバシーのニーズやセキュリティ上の懸念にもかかわらず、個人はどのように情報を交換して互いに学び合うことができるのでしょうか?
たとえば、議論の多いトピックについて議論し、個人的な経験を漏らすことを懸念している個人について考えてみましょう。
個人のプライバシーを保護することと、効率的な社会学習を可能にすることは、どちらも重要な要望ですが、根本的に互いに矛盾しており、調和させるのは非常に難しいようです。
これは、差分プライバシー (DP) に基づく厳格な統計的保証を使用して情報漏洩を制御することによって実現されます。
私たちのエージェントは対数線形ルールを使用して、隣人とのコミュニケーション後に信念を更新します。
信念に DP ランダム化ノイズを追加すると、通信エージェントに、個人情報とネットワーク近傍に関して、もっともらしい否定が可能になります。
有限数のプライベート信号を与えられた分散型最尤推定のための学習環境と、無限の断続的な信号ストリームからのオンライン学習のための 2 つの学習環境を考えます。
有限の場合におけるノイズの多い情報の集約は、低品質の状態を拒否することと、すべての高品質の状態がアルゴリズム出力で確実に受け入れられるようにすることとの間に興味深いトレードオフをもたらします。
私たちの結果は、どちらの場合においても、グループの意思決定結果の質、学習の正確さ、コミュニケーションコスト、エージェントに与えられるプライバシー保護のレベルの間のトレードオフの性質を具体化しています。

要約(オリジナル)

How can individuals exchange information to learn from each other despite their privacy needs and security concerns? For example, consider individuals deliberating a contentious topic and being concerned about divulging their private experiences. Preserving individual privacy and enabling efficient social learning are both important desiderata but seem fundamentally at odds with each other and very hard to reconcile. We do so by controlling information leakage using rigorous statistical guarantees that are based on differential privacy (DP). Our agents use log-linear rules to update their beliefs after communicating with their neighbors. Adding DP randomization noise to beliefs provides communicating agents with plausible deniability with regard to their private information and their network neighborhoods. We consider two learning environments one for distributed maximum-likelihood estimation given a finite number of private signals and another for online learning from an infinite, intermittent signal stream. Noisy information aggregation in the finite case leads to interesting tradeoffs between rejecting low-quality states and making sure all high-quality states are accepted in the algorithm output. Our results flesh out the nature of the trade-offs in both cases between the quality of the group decision outcomes, learning accuracy, communication cost, and the level of privacy protections that the agents are afforded.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google