Recommender Systems for Democracy: Toward Adversarial Robustness in Voting Advice Applications

要約

投票アドバイスアプリケーション（VAA）は、何百万人もの有権者が、どの政党または候補者が自分の意見に最適なのかを理解するのに役立ちます。
このペーパーでは、これらのアプリケーションが敵対的な実体の標的にした場合、これらのアプリケーションが民主的なプロセスにもたらす潜在的なリスクを調査します。
特に、11の操作戦略を公開し、過去2回の国政選挙で収集されたスイスの主要なVAAであるSmartVoteのデータを使用してその影響を測定します。
マッチング方法などのアプリケーションパラメーターを変更すると、当事者の推奨頻度を最大105％シフトできることがわかります。
チェリーピッキングアンケート項目は、当事者の推奨頻度を261％以上増加させる可能性がありますが、締約国または候補者の回答の微妙な変更により、248％の増加につながる可能性があります。
これらの脆弱性に対処するために、VAASが満足し、さまざまなマッチング方法の回復力を評価するための経験的指標を導入し、操作の影響を緩和するための研究の可能性のある手段を提案する必要があることを提案します。
私たちのフレームワークは、近い将来に出現する準備ができている安全で信頼できるAIベースのVAAを確保するための鍵です。

要約(オリジナル)

Voting advice applications (VAAs) help millions of voters understand which political parties or candidates best align with their views. This paper explores the potential risks these applications pose to the democratic process when targeted by adversarial entities. In particular, we expose 11 manipulation strategies and measure their impact using data from Switzerland’s primary VAA, Smartvote, collected during the last two national elections. We find that altering application parameters, such as the matching method, can shift a party’s recommendation frequency by up to 105%. Cherry-picking questionnaire items can increase party recommendation frequency by over 261%, while subtle changes to parties’ or candidates’ responses can lead to a 248% increase. To address these vulnerabilities, we propose adversarial robustness properties VAAs should satisfy, introduce empirical metrics for assessing the resilience of various matching methods, and suggest possible avenues for research toward mitigating the effect of manipulation. Our framework is key to ensuring secure and reliable AI-based VAAs poised to emerge in the near future.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google