Rethinking LLM and Linguistic Steganalysis: An Efficient Detection of Strongly Concealed Stego

要約

複雑なシナリオでステゴ (ステガノグラフィック テキスト) を検出するために、さまざまな動機を持つ言語ステガナリシス (LS) が提案され、優れたパフォーマンスを達成しています。
しかし、生成ステガノグラフィーの発展により、一部のステゴは隠蔽力が強くなり、特に LLM ベースのステガノグラフィーの出現後は、既存の LS では検出能力が低いか、検出できないことさえあります。
私たちは、LSGC と呼ばれる 2 つのモードを備えた新しい LS を設計しました。
生成モードでは、LS タスクの「説明」を作成し、LLM の生成機能を使用して、検出されるテキストがステゴであるかどうかを説明しました。
これに基づいて、LS と LLM の原理を再考し、分類モードを提案しました。
このモードでは、LSGC は LS タスクの「description」を削除し、「causalLM」LLM を「sequenceClassification」アーキテクチャに変更しました。
LS 特徴はモデルの 1 パスのみで抽出でき、分類確率を取得するために初期化重みを備えた線形層が追加されます。
強く隠蔽されたステゴに関する実験では、LSGC が検出を大幅に改善し、SOTA パフォーマンスに達することが示されています。
さらに、分類モードの LSGC は、高いパフォーマンスを維持しながらトレーニング時間を大幅に短縮します。

要約(オリジナル)

To detect stego (steganographic text) in complex scenarios, linguistic steganalysis (LS) with various motivations has been proposed and achieved excellent performance. However, with the development of generative steganography, some stegos have strong concealment, especially after the emergence of LLMs-based steganography, the existing LS has low detection or even cannot detect them. We designed a novel LS with two modes called LSGC. In the generation mode, we created an LS-task ‘description’ and used the generation ability of LLM to explain whether texts to be detected are stegos. On this basis, we rethought the principle of LS and LLMs, and proposed the classification mode. In this mode, LSGC deleted the LS-task ‘description’ and changed the ‘causalLM’ LLMs to the ‘sequenceClassification’ architecture. The LS features can be extracted by only one pass of the model, and a linear layer with initialization weights is added to obtain the classification probability. Experiments on strongly concealed stegos show that LSGC significantly improves detection and reaches SOTA performance. Additionally, LSGC in classification mode greatly reduces training time while maintaining high performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google