A Survey on Large Language Model (LLM) Security and Privacy: The Good, the Bad, and the Ugly

要約

GPT-3やBERTなどの大規模言語モデル（LLM）は、自然言語の理解と生成に革命をもたらした。LLMは、深い言語理解力、人間のようなテキスト生成能力、文脈認識能力、強固な問題解決能力を備えており、様々なドメイン（検索エンジン、カスタマーサポート、翻訳など）において貴重な存在となっている。その一方で、LLMはセキュリティコミュニティにおいても支持を得ており、セキュリティの脆弱性を明らかにし、セキュリティ関連のタスクにおけるLLMの可能性を示している。本稿では、LLMとセキュリティやプライバシーとの接点を探る。具体的には、LLMがセキュリティとプライバシーにどのようなプラスの影響を与えるのか、LLMの使用に伴う潜在的なリスクと脅威、LLMに内在する脆弱性について調査する。包括的な文献調査を通じて、この論文では調査結果を「良い点」（有益なLLMアプリケーション）、「悪い点」（攻撃的なアプリケーション）、「悪い点」（脆弱性とその防御策）に分類している。興味深い発見がいくつかある。例えば、LLMはコードとデータのセキュリティを強化し、従来の方法を凌駕することが証明されている。しかし、LLMは人間のような推論能力を持つため、様々な攻撃（特にユーザーレベルの攻撃）に利用される可能性もあります。我々は、さらなる研究努力が必要な分野を特定した。例えば、モデルやパラメータ抽出攻撃に関する研究は限られており、LLMのパラメータスケールや機密性が妨げとなり、理論的なものが多い。最近開発された安全な命令チューニングについては、さらに研究が必要である。我々の研究が、LLMがサイバーセキュリティを強化する可能性と危険にさらす可能性の両方に光を当てることができることを願っています。

要約(オリジナル)

Large Language Models (LLMs), such as GPT-3 and BERT, have revolutionized natural language understanding and generation. They possess deep language comprehension, human-like text generation capabilities, contextual awareness, and robust problem-solving skills, making them invaluable in various domains (e.g., search engines, customer support, translation). In the meantime, LLMs have also gained traction in the security community, revealing security vulnerabilities and showcasing their potential in security-related tasks. This paper explores the intersection of LLMs with security and privacy. Specifically, we investigate how LLMs positively impact security and privacy, potential risks and threats associated with their use, and inherent vulnerabilities within LLMs. Through a comprehensive literature review, the paper categorizes findings into ‘The Good’ (beneficial LLM applications), ‘The Bad’ (offensive applications), and ‘The Ugly’ (vulnerabilities and their defenses). We have some interesting findings. For example, LLMs have proven to enhance code and data security, outperforming traditional methods. However, they can also be harnessed for various attacks (particularly user-level attacks) due to their human-like reasoning abilities. We have identified areas that require further research efforts. For example, research on model and parameter extraction attacks is limited and often theoretical, hindered by LLM parameter scale and confidentiality. Safe instruction tuning, a recent development, requires more exploration. We hope that our work can shed light on the LLMs’ potential to both bolster and jeopardize cybersecurity.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL