Securing Recommender System via Cooperative Training

要約

レコメンダー システムは多くの場合、巧妙に作成された偽のプロファイルの影響を受けやすく、偏ったレコメンデーションにつながります。
既存の防御手法の中で、データ処理ベースの手法は必然的に正常サンプルを除外しますが、モデルベースの手法は一般化と堅牢性の両方を享受するのに苦労しています。
この目的を達成するために、データ処理と堅牢なモデルを統合して、データを相互に強化し、それによって推奨の堅牢性を向上させる 3 つの協力モデルを採用する一般的なフレームワークである Triple Cooperative Defense (TCD) を提案します。
さらに、既存の攻撃は 2 段階の最適化と効率性のバランスをとるのが難しいことを考慮して、レコメンダー システムにおけるポイズニング攻撃を再考し、攻撃の最適化とモデルのトレーニングを連携して最適化する効率的な攻撃戦略である Co-training Attack (Co- Attack) を導入します。
攻撃効率を維持しながらバイレベル設定を考慮。
さらに、既存の攻撃の脅威が不十分である潜在的な理由は、防御されていないシナリオで攻撃を最適化するというデフォルトの仮定にあることを明らかにしました。
この過度に楽観的な設定により、攻撃の可能性が制限されます。
その結果、私たちはゲームベースの共同トレーニング攻撃 (GCo Attack) を提案しました。これは、提案されている Co Attack と TCD をゲーム理論のプロセスとして組み立て、攻撃と防御の協力トレーニングにおける Co Attack の攻撃の可能性を徹底的に調査します。
3 つの実際のデータセットに対する広範な実験により、モデルの堅牢性を高める点で TCD が優れていることが実証されました。
さらに、提案された 2 つの攻撃戦略が既存の攻撃を大幅に上回っており、ゲームベースの GCo Attack が Co Attack よりも大きなポイズニングの脅威をもたらしていることを検証します。

要約(オリジナル)

Recommender systems are often susceptible to well-crafted fake profiles, leading to biased recommendations. Among existing defense methods, data-processing-based methods inevitably exclude normal samples, while model-based methods struggle to enjoy both generalization and robustness. To this end, we suggest integrating data processing and the robust model to propose a general framework, Triple Cooperative Defense (TCD), which employs three cooperative models that mutually enhance data and thereby improve recommendation robustness. Furthermore, Considering that existing attacks struggle to balance bi-level optimization and efficiency, we revisit poisoning attacks in recommender systems and introduce an efficient attack strategy, Co-training Attack (Co-Attack), which cooperatively optimizes the attack optimization and model training, considering the bi-level setting while maintaining attack efficiency. Moreover, we reveal a potential reason for the insufficient threat of existing attacks is their default assumption of optimizing attacks in undefended scenarios. This overly optimistic setting limits the potential of attacks. Consequently, we put forth a Game-based Co-training Attack (GCoAttack), which frames the proposed CoAttack and TCD as a game-theoretic process, thoroughly exploring CoAttack’s attack potential in the cooperative training of attack and defense. Extensive experiments on three real datasets demonstrate TCD’s superiority in enhancing model robustness. Additionally, we verify that the two proposed attack strategies significantly outperform existing attacks, with game-based GCoAttack posing a greater poisoning threat than CoAttack.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google