The Dark Patterns of Personalized Persuasion in Large Language Models: Exposing Persuasive Linguistic Features for Big Five Personality Traits in LLMs Responses

要約

この研究では、大規模言語モデル (LLM) が言語特徴を調整してパーソナライズされた説得力のある出力を作成する方法を調査します。
研究によると、LLM は出力をパーソナライズすることが示されていますが、説得力の言語的特徴の理解にはまだギャップが残っています。
私たちは、ビッグ 5 性格モデルのさまざまなレベルにわたって性格に影響を与えるために重要な 13 の言語的特徴を特定しました。
私たちは、性格特性情報を含むプロンプトが 5 つのモデル ファミリにわたる 19 個の LLM の出力にどのような影響を与えるかを分析しました。
その結果、モデルは神経症に対しては不安に関連する単語を多く使用し、誠実さに対しては達成に関連する単語を増やし、経験に対するオープンさに対しては認知プロセスの単語をより少なく使用することを示しています。
いくつかのモデルファミリーは経験に対する寛容さのために言語を適応させることに優れており、他のモデルファミリーは誠実性に言語を適応させることに優れていますが、神経症に言語を適応させるのは 1 つのモデルだけです。
私たちの調査結果は、LLM がプロンプト内の性格的な手がかりに基づいて応答をどのように調整するかを示しており、受信者の心と幸福に影響を与える説得力のあるコンテンツを作成する可能性を示しています。

要約(オリジナル)

This study explores how the Large Language Models (LLMs) adjust linguistic features to create personalized persuasive outputs. While research showed that LLMs personalize outputs, a gap remains in understanding the linguistic features of their persuasive capabilities. We identified 13 linguistic features crucial for influencing personalities across different levels of the Big Five model of personality. We analyzed how prompts with personality trait information influenced the output of 19 LLMs across five model families. The findings show that models use more anxiety-related words for neuroticism, increase achievement-related words for conscientiousness, and employ fewer cognitive processes words for openness to experience. Some model families excel at adapting language for openness to experience, others for conscientiousness, while only one model adapts language for neuroticism. Our findings show how LLMs tailor responses based on personality cues in prompts, indicating their potential to create persuasive content affecting the mind and well-being of the recipients.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google