Manipulating Large Language Models to Increase Product Visibility

要約

ユーザーのクエリに合わせた自然言語応答を提供するために、大規模言語モデル (LLM) が検索エンジンに統合されることが増えています。
顧客やエンドユーザーも、迅速かつ簡単に購入を決定できるよう、これらのモデルへの依存度を高めています。
この研究では、LLM からの推奨事項を操作して製品の認知度を高めることができるかどうかを調査します。
私たちは、戦略的テキスト シーケンス (STS) (慎重に作成されたメッセージ) を製品の情報ページに追加すると、LLM の最上位推奨事項としてリストされる可能性が大幅に高まることを実証しました。
STS の影響を理解するために、架空のコーヒー マシンのカタログを使用し、2 つの対象製品に対する STS の影響を分析します。1 つは LLM の推奨事項にめったに表示されないもので、もう 1 つは通常 2 位にランクされます。
戦略的なテキスト シーケンスにより、両方の製品が最上位の推奨事項として表示される可能性が高まるため、両方の製品の認知度が大幅に向上することがわかります。
LLM によって生成された検索応答を操作できるこの機能は、ベンダーに大きな競争上の優位性をもたらし、公正な市場競争を混乱させる可能性があります。
検索エンジン最適化 (SEO) が、検索エンジンの結果で上位にランクされるように Web ページをカスタマイズする方法に革命をもたらしたのと同様に、LLM 推奨事項に影響を与えることは、AI 主導の検索サービスのコンテンツ最適化に大きな影響を与える可能性があります。
実験のコードは https://github.com/aounon/llm-rank-optimizer で入手できます。

要約(オリジナル)

Large language models (LLMs) are increasingly being integrated into search engines to provide natural language responses tailored to user queries. Customers and end-users are also becoming more dependent on these models for quick and easy purchase decisions. In this work, we investigate whether recommendations from LLMs can be manipulated to enhance a product’s visibility. We demonstrate that adding a strategic text sequence (STS) — a carefully crafted message — to a product’s information page can significantly increase its likelihood of being listed as the LLM’s top recommendation. To understand the impact of STS, we use a catalog of fictitious coffee machines and analyze its effect on two target products: one that seldom appears in the LLM’s recommendations and another that usually ranks second. We observe that the strategic text sequence significantly enhances the visibility of both products by increasing their chances of appearing as the top recommendation. This ability to manipulate LLM-generated search responses provides vendors with a considerable competitive advantage and has the potential to disrupt fair market competition. Just as search engine optimization (SEO) revolutionized how webpages are customized to rank higher in search engine results, influencing LLM recommendations could profoundly impact content optimization for AI-driven search services. Code for our experiments is available at https://github.com/aounon/llm-rank-optimizer.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google