Revealing the Intrinsic Ethical Vulnerability of Aligned Large Language Models

要約

大規模な言語モデル（LLM）は、人工的な一般情報の基礎的な調査ですが、指導の調整と好みの学習による人間の価値との整合性は、表面的なコンプライアンスのみを達成します。
ここでは、事前に埋め込まれた有害な知識がLLMSのパラメトリックメモリでは消えない「暗いパターン」として持続し、アライメントセーフガードを回避し、分布シフトでの敵対的誘導の下で再浮上することを示します。
この研究では、現在のアライメント方法が知識マニホールドにローカルな「安全領域」のみを生成することを証明することにより、まず、整合したLLMの本質的な倫理的脆弱性を理論的に分析します。
対照的に、事前に守られた知識は、高等の敵対的軌跡を介して有害な概念に世界的に関連したままです。
この理論的洞察に基づいて、分布シフトの下でセマンティックコヒーレンス誘導を採用することにより、調査結果を経験的に検証します。これは、最適化された敵対的プロンプトを介して整列制約を体系的にバイパスする方法です。
この理論的および経験的アプローチは、Deepseek-R1やLlama-3を含む23の最先端のAligned LLMのうち19で100％の攻撃成功率を達成し、普遍的な脆弱性を明らかにします。

要約(オリジナル)

Large language models (LLMs) are foundational explorations to artificial general intelligence, yet their alignment with human values via instruction tuning and preference learning achieves only superficial compliance. Here, we demonstrate that harmful knowledge embedded during pretraining persists as indelible ‘dark patterns’ in LLMs’ parametric memory, evading alignment safeguards and resurfacing under adversarial inducement at distributional shifts. In this study, we first theoretically analyze the intrinsic ethical vulnerability of aligned LLMs by proving that current alignment methods yield only local ‘safety regions’ in the knowledge manifold. In contrast, pretrained knowledge remains globally connected to harmful concepts via high-likelihood adversarial trajectories. Building on this theoretical insight, we empirically validate our findings by employing semantic coherence inducement under distributional shifts–a method that systematically bypasses alignment constraints through optimized adversarial prompts. This combined theoretical and empirical approach achieves a 100% attack success rate across 19 out of 23 state-of-the-art aligned LLMs, including DeepSeek-R1 and LLaMA-3, revealing their universal vulnerabilities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google