Asking Again and Again: Exploring LLM Robustness to Repeated Questions

要約

この研究では、プロンプト内で質問を繰り返すことで、大規模な言語モデル（LLMS）のパフォーマンスに影響するかどうかを調査します。
単一のプロンプト内で質問を繰り返すと、クエリの重要な要素にモデルの焦点が強化される可能性があると仮定します。
GPT-4O-MINI、DeepSeek-V3、および小規模なオープンソースモデルを含む5つの最近のLLMを、異なるプロンプト設定の下で3つの読解データセットで評価します。
私たちの結果は、質問の繰り返しがモデルの精度を最大6ドル\％$増加させることができることを示しています。
ただし、すべてのモデル、設定、およびデータセットにわたって、結果が統計的に有意であるとは見当たりません。
これらの調査結果は、迅速な設計とLLMの動作に関する洞察を提供し、繰り返しだけでは出力品質に大きな影響を与えないことを示唆しています。

要約(オリジナル)

This study investigates whether repeating questions within prompts influences the performance of large language models (LLMs). We hypothesize that reiterating a question within a single prompt might enhance the model’s focus on key elements of the query. We evaluate five recent LLMs — including GPT-4o-mini, DeepSeek-V3, and smaller open-source models — on three reading comprehension datasets under different prompt settings, varying question repetition levels (1, 3, or 5 times per prompt). Our results demonstrate that question repetition can increase models’ accuracy by up to $6\%$. However, across all models, settings, and datasets, we do not find the result statistically significant. These findings provide insights into prompt design and LLM behavior, suggesting that repetition alone does not significantly impact output quality.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google