Adversarial Machine Learning for Social Good: Reframing the Adversary as an Ally

要約

ディープ ニューラル ネットワーク (DNN) は、機械学習における最近の進歩の多くの原動力となっています。
しかし、研究によると、DNN は敵対的な例、つまり DNN ベースのモデルにエラーを強制するために摂動された入力サンプルに対して脆弱であることが示されています。
その結果、Adversarial Machine Learning (AdvML) が大きな注目を集め、研究者たちはさまざまな設定や手法でこれらの脆弱性を調査してきました。
さらに、DNN にはバイアスが組み込まれており、説明できない予測を生成することが多く、その結果、反社会的な AI アプリケーションが生成される可能性があることも判明しています。
ChatGPT や GPT-4 などの大規模言語モデル (LLM) を利用する新しい AI テクノロジーの出現により、反社会的なアプリケーションが大規模に作成されるリスクが増加しています。
AdvML for Social Good (AdvML4G) は、AdvML のバグを再利用して親社会的なアプリケーションを発明する新興分野です。
規制当局、実務者、研究者は協力して、向社会的なアプリケーションの開発を奨励し、反社会的なアプリケーションの開発を阻止する必要があります。
この研究では、AdvML4G の新興分野に関する最初の包括的なレビューを提供します。
この論文には、AdvML4G の出現に焦点を当てた分類、AdvML4G と AdvML の相違点と類似点の議論、ソーシャルグッド関連の概念と側面をカバーする分類、ML4G の交差点における AdvML4G の出現の背後にある動機の探求が含まれています。
と AdvML、および社会向けアプリケーションを革新するための補助ツールとして AdvML4G を利用する研究の広範な概要。
最後に、研究コミュニティからの大きな注目を必要とするさまざまな課題と未解決の研究課題について詳しく説明します。

要約(オリジナル)

Deep Neural Networks (DNNs) have been the driving force behind many of the recent advances in machine learning. However, research has shown that DNNs are vulnerable to adversarial examples — input samples that have been perturbed to force DNN-based models to make errors. As a result, Adversarial Machine Learning (AdvML) has gained a lot of attention, and researchers have investigated these vulnerabilities in various settings and modalities. In addition, DNNs have also been found to incorporate embedded bias and often produce unexplainable predictions, which can result in anti-social AI applications. The emergence of new AI technologies that leverage Large Language Models (LLMs), such as ChatGPT and GPT-4, increases the risk of producing anti-social applications at scale. AdvML for Social Good (AdvML4G) is an emerging field that repurposes the AdvML bug to invent pro-social applications. Regulators, practitioners, and researchers should collaborate to encourage the development of pro-social applications and hinder the development of anti-social ones. In this work, we provide the first comprehensive review of the emerging field of AdvML4G. This paper encompasses a taxonomy that highlights the emergence of AdvML4G, a discussion of the differences and similarities between AdvML4G and AdvML, a taxonomy covering social good-related concepts and aspects, an exploration of the motivations behind the emergence of AdvML4G at the intersection of ML4G and AdvML, and an extensive summary of the works that utilize AdvML4G as an auxiliary tool for innovating pro-social applications. Finally, we elaborate upon various challenges and open research issues that require significant attention from the research community.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google