AIJack: Security and Privacy Risk Simulator for Machine Learning

要約

このペーパーでは、機械学習モデルのトレーニングと展開に関連するセキュリティとプライバシーのリスクを評価するために設計されたオープンソース ライブラリである AIJack について紹介します。
ビッグデータやAIへの関心が高まる中、機械学習の研究やビジネスの進歩が加速しています。
しかし、最近の研究では、トレーニング データの盗難や悪意のある攻撃者によるモデルの操作などの潜在的な脅威が明らかになりました。
したがって、機械学習を現実世界の製品に安全に統合するには、機械学習のセキュリティとプライバシーの脆弱性を包括的に理解することが重要です。
AIJack は、統合 API を通じてさまざまな攻撃および防御方法を備えたライブラリを提供することで、このニーズに対処することを目指しています。
ライブラリは GitHub (https://github.com/Koukyosyumei/AIJack) で公開されています。

要約(オリジナル)

This paper introduces AIJack, an open-source library designed to assess security and privacy risks associated with the training and deployment of machine learning models. Amid the growing interest in big data and AI, advancements in machine learning research and business are accelerating. However, recent studies reveal potential threats, such as the theft of training data and the manipulation of models by malicious attackers. Therefore, a comprehensive understanding of machine learning’s security and privacy vulnerabilities is crucial for the safe integration of machine learning into real-world products. AIJack aims to address this need by providing a library with various attack and defense methods through a unified API. The library is publicly available on GitHub (https://github.com/Koukyosyumei/AIJack).

arxiv情報

提供元, 利用サービス

arxiv.jp, Google