Crabs: Consuming Resource via Auto-generation for LLM-DoS Attack under Black-box Settings

要約

大規模な言語モデル（LLMS）は、多様なタスク全体で顕著なパフォーマンスを実証していますが、外部の脅威、特にLLMサービス拒否（LLM-DOS）攻撃に対して脆弱です。
具体的には、LLM-DOS攻撃は、計算リソースを排出し、サービスをブロックすることを目的としています。
ただし、既存の研究は主にホワイトボックス攻撃に焦点を当てており、ブラックボックスのシナリオが不足しています。
この論文では、ブラックボックスLLMS向けに設計された自動化されたアルゴリズムであるLLM-DOS（AutoDOS）攻撃の自動生成を紹介します。
AutoDOSはDOS攻撃ツリーを構築し、ノードカバレッジを拡張して、ブラックボックス条件下で効果を達成します。
転送可能性駆動型の反復的最適化により、AutoDOSは1つのプロンプトで異なるモデルで動作する可能性があります。
さらに、長さのトロイの木馬を埋め込むことで、オートドが既存の防御をより効果的にバイパスできるようになることが明らかになりました。
実験結果は、AutoDOSがサービス応答の遅延を250 $ \ Times \ uparrow $を大幅に増幅し、GPUの利用とメモリ使用に関して深刻なリソース消費につながることを示しています。
私たちの仕事は、LLM-Dos攻撃とセキュリティ防御に関する新しい視点を提供します。
私たちのコードは、https：//github.com/shuita2333/autodosで入手できます。

要約(オリジナル)

Large Language Models (LLMs) have demonstrated remarkable performance across diverse tasks yet still are vulnerable to external threats, particularly LLM Denial-of-Service (LLM-DoS) attacks. Specifically, LLM-DoS attacks aim to exhaust computational resources and block services. However, existing studies predominantly focus on white-box attacks, leaving black-box scenarios underexplored. In this paper, we introduce Auto-Generation for LLM-DoS (AutoDoS) attack, an automated algorithm designed for black-box LLMs. AutoDoS constructs the DoS Attack Tree and expands the node coverage to achieve effectiveness under black-box conditions. By transferability-driven iterative optimization, AutoDoS could work across different models in one prompt. Furthermore, we reveal that embedding the Length Trojan allows AutoDoS to bypass existing defenses more effectively. Experimental results show that AutoDoS significantly amplifies service response latency by over 250$\times\uparrow$, leading to severe resource consumption in terms of GPU utilization and memory usage. Our work provides a new perspective on LLM-DoS attacks and security defenses. Our code is available at https://github.com/shuita2333/AutoDoS.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google