Revealing Fine-Grained Values and Opinions in Large Language Models

要約

大規模言語モデル (LLM) に埋め込まれた潜在的な価値観や意見を明らかにすることは、偏見を特定し、潜在的な害を軽減するのに役立ちます。
最近では、LLM にアンケートの質問を促し、道徳的および政治的発言に対する出力のスタンスを定量化することで、この問題に取り組みました。
ただし、LLM によって生成されるスタンスは、どのように促されるかによって大きく異なる可能性があり、特定の立場に対して賛成または反対を主張する方法は数多くあります。
この研究では、420 ​​のプロンプト バリエーションを使用して 6 つの LLM によって生成されたポリティカル コンパス テスト (PCT) の 62 の命題に対する 156,000 の LLM 応答の大規模で堅牢なデータセットを分析することで、この問題に対処することを提案します。
生成されたスタンスの大まかな分析と、それらのスタンスのプレーン テキストの正当化の詳細な分析を実行します。
詳細な分析のために、応答内の比喩を特定することを提案します。つまり、さまざまなプロンプト間で繰り返され一貫している意味的に類似したフレーズであり、特定の LLM が生成する傾向があるテキスト内の自然なパターンを明らかにします。
プロンプトに追加された人口統計的特徴は、クローズドフォーム応答とオープンドメイン応答を引き出す際のテスト結果間の差異だけでなく、偏見も反映して、PCT の結果に大きな影響を与えることがわかりました。
さらに、比喩を介したプレーンテキストの根拠のパターンは、異なるスタンスであっても、同様の正当化がモデルやプロンプト間で繰り返し生成されることを示しています。

要約(オリジナル)

Uncovering latent values and opinions embedded in large language models (LLMs) can help identify biases and mitigate potential harm. Recently, this has been approached by prompting LLMs with survey questions and quantifying the stances in the outputs towards morally and politically charged statements. However, the stances generated by LLMs can vary greatly depending on how they are prompted, and there are many ways to argue for or against a given position. In this work, we propose to address this by analysing a large and robust dataset of 156k LLM responses to the 62 propositions of the Political Compass Test (PCT) generated by 6 LLMs using 420 prompt variations. We perform coarse-grained analysis of their generated stances and fine-grained analysis of the plain text justifications for those stances. For fine-grained analysis, we propose to identify tropes in the responses: semantically similar phrases that are recurrent and consistent across different prompts, revealing natural patterns in the text that a given LLM is prone to produce. We find that demographic features added to prompts significantly affect outcomes on the PCT, reflecting bias, as well as disparities between the results of tests when eliciting closed-form vs. open domain responses. Additionally, patterns in the plain text rationales via tropes show that similar justifications are repeatedly generated across models and prompts even with disparate stances.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google